xref: /dpdk/drivers/common/cnxk/roc_nix.h (revision 3c100e0e)
1 /* SPDX-License-Identifier: BSD-3-Clause
2  * Copyright(C) 2021 Marvell.
3  */
4 
5 #ifndef _ROC_NIX_H_
6 #define _ROC_NIX_H_
7 
8 /* Constants */
9 #define ROC_NIX_BPF_PER_PFFUNC	      64
10 #define ROC_NIX_BPF_ID_INVALID	      0xFFFF
11 #define ROC_NIX_BPF_LEVEL_IDX_INVALID 0xFF
12 #define ROC_NIX_BPF_LEVEL_MAX	      3
13 #define ROC_NIX_BPF_STATS_MAX	      12
14 #define ROC_NIX_MTR_ID_INVALID       UINT32_MAX
15 
16 enum roc_nix_rss_reta_sz {
17 	ROC_NIX_RSS_RETA_SZ_64 = 64,
18 	ROC_NIX_RSS_RETA_SZ_128 = 128,
19 	ROC_NIX_RSS_RETA_SZ_256 = 256,
20 };
21 
22 enum roc_nix_sq_max_sqe_sz {
23 	roc_nix_maxsqesz_w16 = NIX_MAXSQESZ_W16,
24 	roc_nix_maxsqesz_w8 = NIX_MAXSQESZ_W8,
25 };
26 
27 enum roc_nix_fc_mode {
28 	ROC_NIX_FC_NONE = 0,
29 	ROC_NIX_FC_RX,
30 	ROC_NIX_FC_TX,
31 	ROC_NIX_FC_FULL
32 };
33 
34 enum roc_nix_vlan_type {
35 	ROC_NIX_VLAN_TYPE_INNER = 0x01,
36 	ROC_NIX_VLAN_TYPE_OUTER = 0x02,
37 };
38 
39 enum roc_nix_bpf_level_flag {
40 	ROC_NIX_BPF_LEVEL_F_LEAF = BIT(0),
41 	ROC_NIX_BPF_LEVEL_F_MID = BIT(1),
42 	ROC_NIX_BPF_LEVEL_F_TOP = BIT(2),
43 };
44 
45 enum roc_nix_bpf_pc_mode {
46 	ROC_NIX_BPF_PC_MODE_VLAN_INNER,
47 	ROC_NIX_BPF_PC_MODE_VLAN_OUTER,
48 	ROC_NIX_BPF_PC_MODE_DSCP_INNER,
49 	ROC_NIX_BPF_PC_MODE_DSCP_OUTER,
50 	ROC_NIX_BPF_PC_MODE_GEN_INNER,
51 	ROC_NIX_BPF_PC_MODE_GEN_OUTER
52 };
53 
54 enum roc_nix_bpf_color {
55 	ROC_NIX_BPF_COLOR_GREEN,
56 	ROC_NIX_BPF_COLOR_YELLOW,
57 	ROC_NIX_BPF_COLOR_RED,
58 	ROC_NIX_BPF_COLOR_MAX
59 };
60 
61 enum roc_nix_bpf_algo {
62 	ROC_NIX_BPF_ALGO_NONE,
63 	ROC_NIX_BPF_ALGO_2698,
64 	ROC_NIX_BPF_ALGO_4115,
65 	ROC_NIX_BPF_ALGO_2697
66 };
67 
68 enum roc_nix_bpf_lmode { ROC_NIX_BPF_LMODE_BYTE, ROC_NIX_BPF_LMODE_PACKET };
69 
70 enum roc_nix_bpf_action {
71 	ROC_NIX_BPF_ACTION_PASS,
72 	ROC_NIX_BPF_ACTION_DROP,
73 	ROC_NIX_BPF_ACTION_RED
74 };
75 
76 enum roc_nix_bpf_stats {
77 	ROC_NIX_BPF_GREEN_PKT_F_PASS = BIT_ULL(0),
78 	ROC_NIX_BPF_GREEN_OCTS_F_PASS = BIT_ULL(1),
79 	ROC_NIX_BPF_GREEN_PKT_F_DROP = BIT_ULL(2),
80 	ROC_NIX_BPF_GREEN_OCTS_F_DROP = BIT_ULL(3),
81 	ROC_NIX_BPF_YELLOW_PKT_F_PASS = BIT_ULL(4),
82 	ROC_NIX_BPF_YELLOW_OCTS_F_PASS = BIT_ULL(5),
83 	ROC_NIX_BPF_YELLOW_PKT_F_DROP = BIT_ULL(6),
84 	ROC_NIX_BPF_YELLOW_OCTS_F_DROP = BIT_ULL(7),
85 	ROC_NIX_BPF_RED_PKT_F_PASS = BIT_ULL(8),
86 	ROC_NIX_BPF_RED_OCTS_F_PASS = BIT_ULL(9),
87 	ROC_NIX_BPF_RED_PKT_F_DROP = BIT_ULL(10),
88 	ROC_NIX_BPF_RED_OCTS_F_DROP = BIT_ULL(11),
89 };
90 
91 struct roc_nix_bpf_cfg {
92 	enum roc_nix_bpf_algo alg;
93 	enum roc_nix_bpf_lmode lmode;
94 	enum roc_nix_bpf_color icolor;
95 	enum roc_nix_bpf_pc_mode pc_mode;
96 	bool tnl_ena;
97 	union {
98 		/* Valid when *alg* is set to ROC_NIX_BPF_ALGO_2697. */
99 		struct {
100 			uint64_t cir;
101 			uint64_t cbs;
102 			uint64_t ebs;
103 		} algo2697;
104 
105 		/* Valid when *alg* is set to ROC_NIX_BPF_ALGO_2698. */
106 		struct {
107 			uint64_t cir;
108 			uint64_t pir;
109 			uint64_t cbs;
110 			uint64_t pbs;
111 		} algo2698;
112 
113 		/* Valid when *alg* is set to ROC_NIX_BPF_ALGO_4115. */
114 		struct {
115 			uint64_t cir;
116 			uint64_t eir;
117 			uint64_t cbs;
118 			uint64_t ebs;
119 		} algo4115;
120 	};
121 
122 	enum roc_nix_bpf_action action[ROC_NIX_BPF_COLOR_MAX];
123 
124 	/* Reserved for future config*/
125 	uint32_t rsvd[3];
126 };
127 
128 struct roc_nix_bpf_objs {
129 	uint16_t level;
130 	uint16_t count;
131 	uint16_t ids[ROC_NIX_BPF_PER_PFFUNC];
132 };
133 
134 struct roc_nix_bpf_precolor {
135 #define ROC_NIX_BPF_PRE_COLOR_MAX 64
136 	uint8_t count;
137 	enum roc_nix_bpf_pc_mode mode;
138 	enum roc_nix_bpf_color color[ROC_NIX_BPF_PRE_COLOR_MAX];
139 };
140 
141 struct roc_nix_vlan_config {
142 	uint32_t type;
143 	union {
144 		struct {
145 			uint32_t vtag_inner;
146 			uint32_t vtag_outer;
147 		} vlan;
148 
149 		struct {
150 			int idx_inner;
151 			int idx_outer;
152 		} mcam;
153 	};
154 };
155 
156 struct roc_nix_fc_cfg {
157 #define ROC_NIX_FC_RXCHAN_CFG 0
158 #define ROC_NIX_FC_CQ_CFG     1
159 #define ROC_NIX_FC_TM_CFG     2
160 	uint8_t type;
161 	union {
162 		struct {
163 			bool enable;
164 		} rxchan_cfg;
165 
166 		struct {
167 			uint32_t rq;
168 			uint16_t tc;
169 			uint16_t cq_drop;
170 			bool enable;
171 		} cq_cfg;
172 
173 		struct {
174 			uint32_t sq;
175 			uint16_t tc;
176 			bool enable;
177 		} tm_cfg;
178 	};
179 };
180 
181 struct roc_nix_pfc_cfg {
182 	enum roc_nix_fc_mode mode;
183 	/* For SET, tc must be [0, 15].
184 	 * For GET, TC will represent bitmap
185 	 */
186 	uint16_t tc;
187 };
188 
189 struct roc_nix_eeprom_info {
190 #define ROC_NIX_EEPROM_SIZE 256
191 	uint16_t sff_id;
192 	uint8_t buf[ROC_NIX_EEPROM_SIZE];
193 };
194 
195 /* Range to adjust PTP frequency. Valid range is
196  * (-ROC_NIX_PTP_FREQ_ADJUST, ROC_NIX_PTP_FREQ_ADJUST)
197  */
198 #define ROC_NIX_PTP_FREQ_ADJUST (1 << 9)
199 
200 /* NIX LF RX offload configuration flags.
201  * These are input flags to roc_nix_lf_alloc:rx_cfg
202  */
203 #define ROC_NIX_LF_RX_CFG_DROP_RE     BIT_ULL(32)
204 #define ROC_NIX_LF_RX_CFG_L2_LEN_ERR  BIT_ULL(33)
205 #define ROC_NIX_LF_RX_CFG_IP6_UDP_OPT BIT_ULL(34)
206 #define ROC_NIX_LF_RX_CFG_DIS_APAD    BIT_ULL(35)
207 #define ROC_NIX_LF_RX_CFG_CSUM_IL4    BIT_ULL(36)
208 #define ROC_NIX_LF_RX_CFG_CSUM_OL4    BIT_ULL(37)
209 #define ROC_NIX_LF_RX_CFG_LEN_IL4     BIT_ULL(38)
210 #define ROC_NIX_LF_RX_CFG_LEN_IL3     BIT_ULL(39)
211 #define ROC_NIX_LF_RX_CFG_LEN_OL4     BIT_ULL(40)
212 #define ROC_NIX_LF_RX_CFG_LEN_OL3     BIT_ULL(41)
213 
214 /* Group 0 will be used for RSS, 1 -7 will be used for npc_flow RSS action*/
215 #define ROC_NIX_RSS_GROUP_DEFAULT    0
216 #define ROC_NIX_RSS_GRPS	     8
217 #define ROC_NIX_RSS_RETA_MAX	     ROC_NIX_RSS_RETA_SZ_256
218 #define ROC_NIX_RSS_KEY_LEN	     48 /* 352 Bits */
219 #define ROC_NIX_RSS_MCAM_IDX_DEFAULT (-1)
220 
221 #define ROC_NIX_DEFAULT_HW_FRS 1514
222 
223 #define ROC_NIX_VWQE_MAX_SIZE_LOG2 11
224 #define ROC_NIX_VWQE_MIN_SIZE_LOG2 2
225 
226 struct roc_nix_stats {
227 	/* Rx */
228 	uint64_t rx_octs;
229 	uint64_t rx_ucast;
230 	uint64_t rx_bcast;
231 	uint64_t rx_mcast;
232 	uint64_t rx_drop;
233 	uint64_t rx_drop_octs;
234 	uint64_t rx_fcs;
235 	uint64_t rx_err;
236 	uint64_t rx_drop_bcast;
237 	uint64_t rx_drop_mcast;
238 	uint64_t rx_drop_l3_bcast;
239 	uint64_t rx_drop_l3_mcast;
240 	/* Tx */
241 	uint64_t tx_ucast;
242 	uint64_t tx_bcast;
243 	uint64_t tx_mcast;
244 	uint64_t tx_drop;
245 	uint64_t tx_octs;
246 };
247 
248 struct roc_nix_stats_queue {
249 	PLT_STD_C11
250 	union {
251 		struct {
252 			/* Rx */
253 			uint64_t rx_pkts;
254 			uint64_t rx_octs;
255 			uint64_t rx_drop_pkts;
256 			uint64_t rx_drop_octs;
257 			uint64_t rx_error_pkts;
258 		};
259 		struct {
260 			/* Tx */
261 			uint64_t tx_pkts;
262 			uint64_t tx_octs;
263 			uint64_t tx_drop_pkts;
264 			uint64_t tx_drop_octs;
265 		};
266 	};
267 };
268 
269 struct roc_nix_rq {
270 	/* Input parameters */
271 	uint16_t qid;
272 	uint16_t bpf_id;
273 	uint64_t aura_handle;
274 	bool ipsech_ena;
275 	uint16_t first_skip;
276 	uint16_t later_skip;
277 	uint16_t wqe_skip;
278 	uint16_t lpb_size;
279 	uint32_t tag_mask;
280 	uint32_t flow_tag_width;
281 	uint8_t tt;	/* Valid when SSO is enabled */
282 	uint16_t hwgrp; /* Valid when SSO is enabled */
283 	bool sso_ena;
284 	bool vwqe_ena;
285 	uint64_t spb_aura_handle; /* Valid when SPB is enabled */
286 	uint16_t spb_size;	  /* Valid when SPB is enabled */
287 	bool spb_ena;
288 	uint8_t vwqe_first_skip;
289 	uint32_t vwqe_max_sz_exp;
290 	uint64_t vwqe_wait_tmo;
291 	uint64_t vwqe_aura_handle;
292 	/* Average LPB aura level drop threshold for RED */
293 	uint8_t red_drop;
294 	/* Average LPB aura level pass threshold for RED */
295 	uint8_t red_pass;
296 	/* Average SPB aura level drop threshold for RED */
297 	uint8_t spb_red_drop;
298 	/* Average SPB aura level pass threshold for RED */
299 	uint8_t spb_red_pass;
300 	/* LPB aura drop enable */
301 	bool lpb_drop_ena;
302 	/* SPB aura drop enable */
303 	bool spb_drop_ena;
304 	/* End of Input parameters */
305 	struct roc_nix *roc_nix;
306 	uint16_t inl_dev_refs;
307 };
308 
309 struct roc_nix_cq {
310 	/* Input parameters */
311 	uint16_t qid;
312 	uint16_t nb_desc;
313 	/* End of Input parameters */
314 	uint16_t drop_thresh;
315 	struct roc_nix *roc_nix;
316 	uintptr_t door;
317 	int64_t *status;
318 	uint64_t wdata;
319 	void *desc_base;
320 	uint32_t qmask;
321 	uint32_t head;
322 };
323 
324 struct roc_nix_sq {
325 	/* Input parameters */
326 	enum roc_nix_sq_max_sqe_sz max_sqe_sz;
327 	uint32_t nb_desc;
328 	uint16_t qid;
329 	uint16_t cqid;
330 	bool sso_ena;
331 	bool cq_ena;
332 	/* End of Input parameters */
333 	uint16_t sqes_per_sqb_log2;
334 	struct roc_nix *roc_nix;
335 	uint64_t aura_handle;
336 	int16_t nb_sqb_bufs_adj;
337 	uint16_t nb_sqb_bufs;
338 	uint16_t aura_sqb_bufs;
339 	plt_iova_t io_addr;
340 	void *lmt_addr;
341 	void *sqe_mem;
342 	void *fc;
343 };
344 
345 struct roc_nix_link_info {
346 	uint64_t status : 1;
347 	uint64_t full_duplex : 1;
348 	uint64_t lmac_type_id : 4;
349 	uint64_t speed : 20;
350 	uint64_t autoneg : 1;
351 	uint64_t fec : 2;
352 	uint64_t port : 8;
353 };
354 
355 /** Maximum name length for extended statistics counters */
356 #define ROC_NIX_XSTATS_NAME_SIZE 64
357 
358 struct roc_nix_xstat {
359 	uint64_t id;	/**< The index in xstats name array. */
360 	uint64_t value; /**< The statistic counter value. */
361 };
362 
363 struct roc_nix_xstat_name {
364 	char name[ROC_NIX_XSTATS_NAME_SIZE];
365 };
366 
367 struct roc_nix_ipsec_cfg {
368 	uint32_t sa_size;
369 	uint32_t tag_const;
370 	plt_iova_t iova;
371 	uint16_t max_sa;
372 	uint8_t tt;
373 };
374 
375 /* Link status update callback */
376 typedef void (*link_status_t)(struct roc_nix *roc_nix,
377 			      struct roc_nix_link_info *link);
378 
379 /* PTP info update callback */
380 typedef int (*ptp_info_update_t)(struct roc_nix *roc_nix, bool enable);
381 
382 /* Link status get callback */
383 typedef void (*link_info_get_t)(struct roc_nix *roc_nix,
384 				struct roc_nix_link_info *link);
385 
386 struct roc_nix {
387 	/* Input parameters */
388 	struct plt_pci_device *pci_dev;
389 	uint16_t port_id;
390 	bool rss_tag_as_xor;
391 	uint16_t max_sqb_count;
392 	enum roc_nix_rss_reta_sz reta_sz;
393 	bool enable_loop;
394 	bool hw_vlan_ins;
395 	uint8_t lock_rx_ctx;
396 	uint32_t outb_nb_desc;
397 	uint16_t outb_nb_crypto_qs;
398 	uint32_t ipsec_in_min_spi;
399 	uint32_t ipsec_in_max_spi;
400 	uint32_t ipsec_out_max_sa;
401 	bool ipsec_out_sso_pffunc;
402 	/* End of input parameters */
403 	/* LMT line base for "Per Core Tx LMT line" mode*/
404 	uintptr_t lmt_base;
405 	bool io_enabled;
406 	bool rx_ptp_ena;
407 	uint16_t cints;
408 	bool custom_sa_action;
409 
410 #define ROC_NIX_MEM_SZ (6 * 1024)
411 	uint8_t reserved[ROC_NIX_MEM_SZ] __plt_cache_aligned;
412 } __plt_cache_aligned;
413 
414 enum roc_nix_lso_tun_type {
415 	ROC_NIX_LSO_TUN_V4V4,
416 	ROC_NIX_LSO_TUN_V4V6,
417 	ROC_NIX_LSO_TUN_V6V4,
418 	ROC_NIX_LSO_TUN_V6V6,
419 	ROC_NIX_LSO_TUN_MAX,
420 };
421 
422 /* Restrict CN9K sched weight to have a minimum quantum */
423 #define ROC_NIX_CN9K_TM_RR_WEIGHT_MAX 255u
424 
425 /* NIX TM Inlines */
426 static inline uint64_t
roc_nix_tm_max_sched_wt_get(void)427 roc_nix_tm_max_sched_wt_get(void)
428 {
429 	if (roc_model_is_cn9k())
430 		return ROC_NIX_CN9K_TM_RR_WEIGHT_MAX;
431 	else
432 		return NIX_TM_RR_WEIGHT_MAX;
433 }
434 
435 static inline uint64_t
roc_nix_tm_max_shaper_burst_get(void)436 roc_nix_tm_max_shaper_burst_get(void)
437 {
438 	if (roc_model_is_cn9k())
439 		return NIX_CN9K_TM_MAX_SHAPER_BURST;
440 	else
441 		return NIX_TM_MAX_SHAPER_BURST;
442 }
443 
444 /* Dev */
445 int __roc_api roc_nix_dev_init(struct roc_nix *roc_nix);
446 int __roc_api roc_nix_dev_fini(struct roc_nix *roc_nix);
447 
448 /* Type */
449 bool __roc_api roc_nix_is_lbk(struct roc_nix *roc_nix);
450 bool __roc_api roc_nix_is_sdp(struct roc_nix *roc_nix);
451 bool __roc_api roc_nix_is_pf(struct roc_nix *roc_nix);
452 bool __roc_api roc_nix_is_vf_or_sdp(struct roc_nix *roc_nix);
453 int __roc_api roc_nix_get_base_chan(struct roc_nix *roc_nix);
454 int __roc_api roc_nix_get_pf(struct roc_nix *roc_nix);
455 int __roc_api roc_nix_get_vf(struct roc_nix *roc_nix);
456 uint16_t __roc_api roc_nix_get_pf_func(struct roc_nix *roc_nix);
457 uint16_t __roc_api roc_nix_get_vwqe_interval(struct roc_nix *roc_nix);
458 int __roc_api roc_nix_max_pkt_len(struct roc_nix *roc_nix);
459 
460 /* LF ops */
461 int __roc_api roc_nix_lf_alloc(struct roc_nix *roc_nix, uint32_t nb_rxq,
462 			       uint32_t nb_txq, uint64_t rx_cfg);
463 int __roc_api roc_nix_lf_free(struct roc_nix *roc_nix);
464 int __roc_api roc_nix_lf_inl_ipsec_cfg(struct roc_nix *roc_nix,
465 				       struct roc_nix_ipsec_cfg *cfg, bool enb);
466 int __roc_api roc_nix_cpt_ctx_cache_sync(struct roc_nix *roc_nix);
467 int __roc_api roc_nix_rx_drop_re_set(struct roc_nix *roc_nix, bool ena);
468 
469 /* Debug */
470 int __roc_api roc_nix_lf_get_reg_count(struct roc_nix *roc_nix);
471 int __roc_api roc_nix_lf_reg_dump(struct roc_nix *roc_nix, uint64_t *data);
472 int __roc_api roc_nix_queues_ctx_dump(struct roc_nix *roc_nix);
473 void __roc_api roc_nix_cqe_dump(const struct nix_cqe_hdr_s *cq);
474 void __roc_api roc_nix_rq_dump(struct roc_nix_rq *rq);
475 void __roc_api roc_nix_cq_dump(struct roc_nix_cq *cq);
476 void __roc_api roc_nix_sq_dump(struct roc_nix_sq *sq);
477 void __roc_api roc_nix_tm_dump(struct roc_nix *roc_nix);
478 void __roc_api roc_nix_dump(struct roc_nix *roc_nix);
479 
480 /* IRQ */
481 void __roc_api roc_nix_rx_queue_intr_enable(struct roc_nix *roc_nix,
482 					    uint16_t rxq_id);
483 void __roc_api roc_nix_rx_queue_intr_disable(struct roc_nix *roc_nix,
484 					     uint16_t rxq_id);
485 void __roc_api roc_nix_err_intr_ena_dis(struct roc_nix *roc_nix, bool enb);
486 void __roc_api roc_nix_ras_intr_ena_dis(struct roc_nix *roc_nix, bool enb);
487 int __roc_api roc_nix_register_queue_irqs(struct roc_nix *roc_nix);
488 void __roc_api roc_nix_unregister_queue_irqs(struct roc_nix *roc_nix);
489 int __roc_api roc_nix_register_cq_irqs(struct roc_nix *roc_nix);
490 void __roc_api roc_nix_unregister_cq_irqs(struct roc_nix *roc_nix);
491 
492 /* Traffic Management */
493 #define ROC_NIX_TM_SHAPER_PROFILE_NONE UINT32_MAX
494 #define ROC_NIX_TM_NODE_ID_INVALID     UINT32_MAX
495 
496 enum roc_nix_tm_tree {
497 	ROC_NIX_TM_DEFAULT = 0,
498 	ROC_NIX_TM_RLIMIT,
499 	ROC_NIX_TM_PFC,
500 	ROC_NIX_TM_USER,
501 	ROC_NIX_TM_TREE_MAX,
502 };
503 
504 enum roc_tm_node_level {
505 	ROC_TM_LVL_ROOT = 0,
506 	ROC_TM_LVL_SCH1,
507 	ROC_TM_LVL_SCH2,
508 	ROC_TM_LVL_SCH3,
509 	ROC_TM_LVL_SCH4,
510 	ROC_TM_LVL_QUEUE,
511 	ROC_TM_LVL_MAX,
512 };
513 
514 /*
515  * TM runtime hierarchy init API.
516  */
517 int __roc_api roc_nix_tm_init(struct roc_nix *roc_nix);
518 void __roc_api roc_nix_tm_fini(struct roc_nix *roc_nix);
519 int __roc_api roc_nix_tm_sq_aura_fc(struct roc_nix_sq *sq, bool enable);
520 int __roc_api roc_nix_tm_sq_flush_spin(struct roc_nix_sq *sq);
521 
522 /*
523  * TM User hierarchy API.
524  */
525 
526 struct roc_nix_tm_node {
527 #define ROC_NIX_TM_NODE_SZ (128)
528 	uint8_t reserved[ROC_NIX_TM_NODE_SZ];
529 
530 	uint32_t id;
531 	uint32_t parent_id;
532 	uint32_t priority;
533 	uint32_t weight;
534 	uint32_t shaper_profile_id;
535 	uint16_t lvl;
536 	bool pkt_mode;
537 	bool pkt_mode_set;
538 	/* Function to free this memory */
539 	void (*free_fn)(void *node);
540 };
541 
542 struct roc_nix_tm_shaper_profile {
543 #define ROC_NIX_TM_SHAPER_PROFILE_SZ (128)
544 	uint8_t reserved[ROC_NIX_TM_SHAPER_PROFILE_SZ];
545 
546 	uint32_t id;
547 	uint64_t commit_rate;
548 	uint64_t commit_sz;
549 	uint64_t peak_rate;
550 	uint64_t peak_sz;
551 	int32_t pkt_len_adj;
552 	bool pkt_mode;
553 	int8_t accuracy;
554 	/* Function to free this memory */
555 	void (*free_fn)(void *profile);
556 };
557 
558 enum roc_nix_tm_node_stats_type {
559 	ROC_NIX_TM_NODE_PKTS_DROPPED,
560 	ROC_NIX_TM_NODE_BYTES_DROPPED,
561 	ROC_NIX_TM_NODE_GREEN_PKTS,
562 	ROC_NIX_TM_NODE_GREEN_BYTES,
563 	ROC_NIX_TM_NODE_YELLOW_PKTS,
564 	ROC_NIX_TM_NODE_YELLOW_BYTES,
565 	ROC_NIX_TM_NODE_RED_PKTS,
566 	ROC_NIX_TM_NODE_RED_BYTES,
567 	ROC_NIX_TM_NODE_STATS_MAX,
568 };
569 
570 struct roc_nix_tm_node_stats {
571 	uint64_t stats[ROC_NIX_TM_NODE_STATS_MAX];
572 };
573 
574 enum roc_nix_tm_mark {
575 	ROC_NIX_TM_MARK_VLAN_DEI,
576 	ROC_NIX_TM_MARK_IPV4_DSCP,
577 	ROC_NIX_TM_MARK_IPV4_ECN,
578 	ROC_NIX_TM_MARK_IPV6_DSCP,
579 	ROC_NIX_TM_MARK_IPV6_ECN,
580 	ROC_NIX_TM_MARK_MAX
581 };
582 
583 enum roc_nix_tm_mark_color {
584 	ROC_NIX_TM_MARK_COLOR_Y,
585 	ROC_NIX_TM_MARK_COLOR_R,
586 	ROC_NIX_TM_MARK_COLOR_Y_R,
587 	ROC_NIX_TM_MARK_COLOR_MAX
588 };
589 
590 int __roc_api roc_nix_tm_node_add(struct roc_nix *roc_nix,
591 				  struct roc_nix_tm_node *roc_node);
592 int __roc_api roc_nix_tm_node_delete(struct roc_nix *roc_nix, uint32_t node_id,
593 				     bool free);
594 int __roc_api roc_nix_tm_free_resources(struct roc_nix *roc_nix, bool hw_only);
595 int __roc_api roc_nix_tm_node_suspend_resume(struct roc_nix *roc_nix,
596 					     uint32_t node_id, bool suspend);
597 int __roc_api roc_nix_tm_node_parent_update(struct roc_nix *roc_nix,
598 					    uint32_t node_id,
599 					    uint32_t new_parent_id,
600 					    uint32_t priority, uint32_t weight);
601 int __roc_api roc_nix_tm_node_shaper_update(struct roc_nix *roc_nix,
602 					    uint32_t node_id,
603 					    uint32_t profile_id,
604 					    bool force_update);
605 int __roc_api roc_nix_tm_node_pkt_mode_update(struct roc_nix *roc_nix,
606 					      uint32_t node_id, bool pkt_mode);
607 int __roc_api roc_nix_tm_shaper_profile_add(
608 	struct roc_nix *roc_nix, struct roc_nix_tm_shaper_profile *profile);
609 int __roc_api roc_nix_tm_shaper_profile_update(
610 	struct roc_nix *roc_nix, struct roc_nix_tm_shaper_profile *profile);
611 int __roc_api roc_nix_tm_shaper_profile_delete(struct roc_nix *roc_nix,
612 					       uint32_t id);
613 
614 int __roc_api roc_nix_tm_prealloc_res(struct roc_nix *roc_nix, uint8_t lvl,
615 				      uint16_t discontig, uint16_t contig);
616 uint16_t __roc_api roc_nix_tm_leaf_cnt(struct roc_nix *roc_nix);
617 
618 struct roc_nix_tm_node *__roc_api roc_nix_tm_node_get(struct roc_nix *roc_nix,
619 						      uint32_t node_id);
620 struct roc_nix_tm_node *__roc_api
621 roc_nix_tm_node_next(struct roc_nix *roc_nix, struct roc_nix_tm_node *__prev);
622 struct roc_nix_tm_shaper_profile *__roc_api
623 roc_nix_tm_shaper_profile_get(struct roc_nix *roc_nix, uint32_t profile_id);
624 struct roc_nix_tm_shaper_profile *__roc_api roc_nix_tm_shaper_profile_next(
625 	struct roc_nix *roc_nix, struct roc_nix_tm_shaper_profile *__prev);
626 
627 int __roc_api roc_nix_tm_node_stats_get(struct roc_nix *roc_nix,
628 					uint32_t node_id, bool clear,
629 					struct roc_nix_tm_node_stats *stats);
630 /*
631  * TM ratelimit tree API.
632  */
633 int __roc_api roc_nix_tm_rlimit_sq(struct roc_nix *roc_nix, uint16_t qid,
634 				   uint64_t rate);
635 /*
636  * TM hierarchy enable/disable API.
637  */
638 int __roc_api roc_nix_tm_hierarchy_disable(struct roc_nix *roc_nix);
639 int __roc_api roc_nix_tm_hierarchy_enable(struct roc_nix *roc_nix,
640 					  enum roc_nix_tm_tree tree,
641 					  bool xmit_enable);
642 
643 /*
644  * TM utilities API.
645  */
646 int __roc_api roc_nix_tm_node_lvl(struct roc_nix *roc_nix, uint32_t node_id);
647 bool __roc_api roc_nix_tm_root_has_sp(struct roc_nix *roc_nix);
648 void __roc_api roc_nix_tm_rsrc_max(bool pf, uint16_t schq[ROC_TM_LVL_MAX]);
649 int __roc_api roc_nix_tm_rsrc_count(struct roc_nix *roc_nix,
650 				    uint16_t schq[ROC_TM_LVL_MAX]);
651 int __roc_api roc_nix_tm_node_name_get(struct roc_nix *roc_nix,
652 				       uint32_t node_id, char *buf,
653 				       size_t buflen);
654 int __roc_api roc_nix_smq_flush(struct roc_nix *roc_nix);
655 int __roc_api roc_nix_tm_max_prio(struct roc_nix *roc_nix, int lvl);
656 int __roc_api roc_nix_tm_lvl_is_leaf(struct roc_nix *roc_nix, int lvl);
657 void __roc_api
658 roc_nix_tm_shaper_default_red_algo(struct roc_nix_tm_node *node,
659 				   struct roc_nix_tm_shaper_profile *profile);
660 int __roc_api roc_nix_tm_lvl_cnt_get(struct roc_nix *roc_nix);
661 int __roc_api roc_nix_tm_lvl_have_link_access(struct roc_nix *roc_nix, int lvl);
662 int __roc_api roc_nix_tm_prepare_rate_limited_tree(struct roc_nix *roc_nix);
663 int __roc_api roc_nix_tm_pfc_prepare_tree(struct roc_nix *roc_nix);
664 bool __roc_api roc_nix_tm_is_user_hierarchy_enabled(struct roc_nix *nix);
665 int __roc_api roc_nix_tm_tree_type_get(struct roc_nix *nix);
666 int __roc_api roc_nix_tm_mark_config(struct roc_nix *roc_nix,
667 				     enum roc_nix_tm_mark type, int mark_yellow,
668 				     int mark_red);
669 uint64_t __roc_api roc_nix_tm_mark_format_get(struct roc_nix *roc_nix,
670 					      uint64_t *flags);
671 
672 /* Ingress Policer API */
673 int __roc_api roc_nix_bpf_timeunit_get(struct roc_nix *roc_nix,
674 				       uint32_t *time_unit);
675 
676 int __roc_api
677 roc_nix_bpf_count_get(struct roc_nix *roc_nix, uint8_t lvl_mask,
678 		      uint16_t count[ROC_NIX_BPF_LEVEL_MAX] /* Out */);
679 
680 int __roc_api roc_nix_bpf_alloc(struct roc_nix *roc_nix, uint8_t lvl_mask,
681 				uint16_t per_lvl_cnt[ROC_NIX_BPF_LEVEL_MAX],
682 				struct roc_nix_bpf_objs *profs /* Out */);
683 
684 int __roc_api roc_nix_bpf_free(struct roc_nix *roc_nix,
685 			       struct roc_nix_bpf_objs *profs,
686 			       uint8_t num_prof);
687 
688 int __roc_api roc_nix_bpf_free_all(struct roc_nix *roc_nix);
689 
690 int __roc_api roc_nix_bpf_config(struct roc_nix *roc_nix, uint16_t id,
691 				 enum roc_nix_bpf_level_flag lvl_flag,
692 				 struct roc_nix_bpf_cfg *cfg);
693 
694 int __roc_api roc_nix_bpf_ena_dis(struct roc_nix *roc_nix, uint16_t id,
695 				  struct roc_nix_rq *rq, bool enable);
696 
697 int __roc_api roc_nix_bpf_dump(struct roc_nix *roc_nix, uint16_t id,
698 			       enum roc_nix_bpf_level_flag lvl_flag);
699 
700 int __roc_api roc_nix_bpf_pre_color_tbl_setup(
701 	struct roc_nix *roc_nix, uint16_t id,
702 	enum roc_nix_bpf_level_flag lvl_flag, struct roc_nix_bpf_precolor *tbl);
703 
704 /* Use ROC_NIX_BPF_ID_INVALID as dst_id to disconnect */
705 int __roc_api roc_nix_bpf_connect(struct roc_nix *roc_nix,
706 				  enum roc_nix_bpf_level_flag lvl_flag,
707 				  uint16_t src_id, uint16_t dst_id);
708 
709 int __roc_api
710 roc_nix_bpf_stats_read(struct roc_nix *roc_nix, uint16_t id, uint64_t mask,
711 		       enum roc_nix_bpf_level_flag lvl_flag,
712 		       uint64_t stats[ROC_NIX_BPF_STATS_MAX] /* Out */);
713 
714 int __roc_api roc_nix_bpf_stats_reset(struct roc_nix *roc_nix, uint16_t id,
715 				      uint64_t mask,
716 				      enum roc_nix_bpf_level_flag lvl_flag);
717 
718 int __roc_api
719 roc_nix_bpf_lf_stats_read(struct roc_nix *roc_nix, uint64_t mask,
720 			  uint64_t stats[ROC_NIX_BPF_STATS_MAX] /* Out */);
721 
722 int __roc_api roc_nix_bpf_lf_stats_reset(struct roc_nix *roc_nix,
723 					 uint64_t mask);
724 
725 uint8_t __roc_api
726 roc_nix_bpf_level_to_idx(enum roc_nix_bpf_level_flag lvl_flag);
727 
728 uint8_t __roc_api roc_nix_bpf_stats_to_idx(enum roc_nix_bpf_stats lvl_flag);
729 
730 /* MAC */
731 int __roc_api roc_nix_mac_rxtx_start_stop(struct roc_nix *roc_nix, bool start);
732 int __roc_api roc_nix_mac_link_event_start_stop(struct roc_nix *roc_nix,
733 						bool start);
734 int __roc_api roc_nix_mac_loopback_enable(struct roc_nix *roc_nix, bool enable);
735 int __roc_api roc_nix_mac_addr_set(struct roc_nix *roc_nix,
736 				   const uint8_t addr[]);
737 int __roc_api roc_nix_mac_max_entries_get(struct roc_nix *roc_nix);
738 int __roc_api roc_nix_mac_addr_add(struct roc_nix *roc_nix, uint8_t addr[]);
739 int __roc_api roc_nix_mac_addr_del(struct roc_nix *roc_nix, uint32_t index);
740 int __roc_api roc_nix_mac_promisc_mode_enable(struct roc_nix *roc_nix,
741 					      int enable);
742 int __roc_api roc_nix_mac_link_state_set(struct roc_nix *roc_nix, uint8_t up);
743 int __roc_api roc_nix_mac_link_info_set(struct roc_nix *roc_nix,
744 					struct roc_nix_link_info *link_info);
745 int __roc_api roc_nix_mac_link_info_get(struct roc_nix *roc_nix,
746 					struct roc_nix_link_info *link_info);
747 int __roc_api roc_nix_mac_mtu_set(struct roc_nix *roc_nix, uint16_t mtu);
748 int __roc_api roc_nix_mac_max_rx_len_set(struct roc_nix *roc_nix,
749 					 uint16_t maxlen);
750 int __roc_api roc_nix_mac_link_cb_register(struct roc_nix *roc_nix,
751 					   link_status_t link_update);
752 void __roc_api roc_nix_mac_link_cb_unregister(struct roc_nix *roc_nix);
753 int __roc_api roc_nix_mac_link_info_get_cb_register(
754 	struct roc_nix *roc_nix, link_info_get_t link_info_get);
755 void __roc_api roc_nix_mac_link_info_get_cb_unregister(struct roc_nix *roc_nix);
756 
757 /* Ops */
758 int __roc_api roc_nix_switch_hdr_set(struct roc_nix *roc_nix,
759 				     uint64_t switch_header_type,
760 				     uint8_t pre_l2_size_offset,
761 				     uint8_t pre_l2_size_offset_mask,
762 				     uint8_t pre_l2_size_shift_dir);
763 int __roc_api roc_nix_lso_fmt_setup(struct roc_nix *roc_nix);
764 int __roc_api roc_nix_lso_fmt_get(struct roc_nix *roc_nix,
765 				  uint8_t udp_tun[ROC_NIX_LSO_TUN_MAX],
766 				  uint8_t tun[ROC_NIX_LSO_TUN_MAX]);
767 int __roc_api roc_nix_lso_custom_fmt_setup(struct roc_nix *roc_nix,
768 					   struct nix_lso_format *fields,
769 					   uint16_t nb_fields);
770 
771 int __roc_api roc_nix_eeprom_info_get(struct roc_nix *roc_nix,
772 				      struct roc_nix_eeprom_info *info);
773 
774 /* Flow control */
775 int __roc_api roc_nix_fc_config_set(struct roc_nix *roc_nix,
776 				    struct roc_nix_fc_cfg *fc_cfg);
777 
778 int __roc_api roc_nix_fc_config_get(struct roc_nix *roc_nix,
779 				    struct roc_nix_fc_cfg *fc_cfg);
780 
781 int __roc_api roc_nix_fc_mode_set(struct roc_nix *roc_nix,
782 				  enum roc_nix_fc_mode mode);
783 
784 int __roc_api roc_nix_pfc_mode_set(struct roc_nix *roc_nix,
785 				   struct roc_nix_pfc_cfg *pfc_cfg);
786 
787 int __roc_api roc_nix_pfc_mode_get(struct roc_nix *roc_nix,
788 				   struct roc_nix_pfc_cfg *pfc_cfg);
789 
790 uint16_t __roc_api roc_nix_chan_count_get(struct roc_nix *roc_nix);
791 
792 enum roc_nix_fc_mode __roc_api roc_nix_fc_mode_get(struct roc_nix *roc_nix);
793 
794 void __roc_api rox_nix_fc_npa_bp_cfg(struct roc_nix *roc_nix, uint64_t pool_id,
795 				     uint8_t ena, uint8_t force);
796 
797 /* NPC */
798 int __roc_api roc_nix_npc_promisc_ena_dis(struct roc_nix *roc_nix, int enable);
799 
800 int __roc_api roc_nix_npc_mac_addr_set(struct roc_nix *roc_nix, uint8_t addr[]);
801 
802 int __roc_api roc_nix_npc_mac_addr_get(struct roc_nix *roc_nix, uint8_t *addr);
803 
804 int __roc_api roc_nix_npc_rx_ena_dis(struct roc_nix *roc_nix, bool enable);
805 
806 int __roc_api roc_nix_npc_mcast_config(struct roc_nix *roc_nix,
807 				       bool mcast_enable, bool prom_enable);
808 
809 /* RSS */
810 void __roc_api roc_nix_rss_key_default_fill(struct roc_nix *roc_nix,
811 					    uint8_t key[ROC_NIX_RSS_KEY_LEN]);
812 void __roc_api roc_nix_rss_key_set(struct roc_nix *roc_nix,
813 				   const uint8_t key[ROC_NIX_RSS_KEY_LEN]);
814 void __roc_api roc_nix_rss_key_get(struct roc_nix *roc_nix,
815 				   uint8_t key[ROC_NIX_RSS_KEY_LEN]);
816 int __roc_api roc_nix_rss_reta_set(struct roc_nix *roc_nix, uint8_t group,
817 				   uint16_t reta[ROC_NIX_RSS_RETA_MAX]);
818 int __roc_api roc_nix_rss_reta_get(struct roc_nix *roc_nix, uint8_t group,
819 				   uint16_t reta[ROC_NIX_RSS_RETA_MAX]);
820 int __roc_api roc_nix_rss_flowkey_set(struct roc_nix *roc_nix, uint8_t *alg_idx,
821 				      uint32_t flowkey, uint8_t group,
822 				      int mcam_index);
823 int __roc_api roc_nix_rss_default_setup(struct roc_nix *roc_nix,
824 					uint32_t flowkey);
825 
826 /* Stats */
827 int __roc_api roc_nix_stats_get(struct roc_nix *roc_nix,
828 				struct roc_nix_stats *stats);
829 int __roc_api roc_nix_stats_reset(struct roc_nix *roc_nix);
830 int __roc_api roc_nix_stats_queue_get(struct roc_nix *roc_nix, uint16_t qid,
831 				      bool is_rx,
832 				      struct roc_nix_stats_queue *qstats);
833 int __roc_api roc_nix_stats_queue_reset(struct roc_nix *roc_nix, uint16_t qid,
834 					bool is_rx);
835 int __roc_api roc_nix_num_xstats_get(struct roc_nix *roc_nix);
836 int __roc_api roc_nix_xstats_get(struct roc_nix *roc_nix,
837 				 struct roc_nix_xstat *xstats, unsigned int n);
838 int __roc_api roc_nix_xstats_names_get(struct roc_nix *roc_nix,
839 				       struct roc_nix_xstat_name *xstats_names,
840 				       unsigned int limit);
841 
842 /* Queue */
843 int __roc_api roc_nix_rq_init(struct roc_nix *roc_nix, struct roc_nix_rq *rq,
844 			      bool ena);
845 int __roc_api roc_nix_rq_modify(struct roc_nix *roc_nix, struct roc_nix_rq *rq,
846 				bool ena);
847 int __roc_api roc_nix_rq_ena_dis(struct roc_nix_rq *rq, bool enable);
848 int __roc_api roc_nix_rq_fini(struct roc_nix_rq *rq);
849 int __roc_api roc_nix_cq_init(struct roc_nix *roc_nix, struct roc_nix_cq *cq);
850 int __roc_api roc_nix_cq_fini(struct roc_nix_cq *cq);
851 void __roc_api roc_nix_cq_head_tail_get(struct roc_nix *roc_nix, uint16_t qid,
852 					uint32_t *head, uint32_t *tail);
853 int __roc_api roc_nix_sq_init(struct roc_nix *roc_nix, struct roc_nix_sq *sq);
854 int __roc_api roc_nix_sq_fini(struct roc_nix_sq *sq);
855 void __roc_api roc_nix_sq_head_tail_get(struct roc_nix *roc_nix, uint16_t qid,
856 					uint32_t *head, uint32_t *tail);
857 
858 /* PTP */
859 int __roc_api roc_nix_ptp_rx_ena_dis(struct roc_nix *roc_nix, int enable);
860 int __roc_api roc_nix_ptp_tx_ena_dis(struct roc_nix *roc_nix, int enable);
861 int __roc_api roc_nix_ptp_clock_read(struct roc_nix *roc_nix, uint64_t *clock,
862 				     uint64_t *tsc, uint8_t is_pmu);
863 int __roc_api roc_nix_ptp_sync_time_adjust(struct roc_nix *roc_nix,
864 					   int64_t delta);
865 int __roc_api roc_nix_ptp_info_cb_register(struct roc_nix *roc_nix,
866 					   ptp_info_update_t ptp_update);
867 void __roc_api roc_nix_ptp_info_cb_unregister(struct roc_nix *roc_nix);
868 bool __roc_api roc_nix_ptp_is_enable(struct roc_nix *roc_nix);
869 
870 /* VLAN */
871 int __roc_api
872 roc_nix_vlan_mcam_entry_read(struct roc_nix *roc_nix, uint32_t index,
873 			     struct npc_mcam_read_entry_rsp **rsp);
874 int __roc_api roc_nix_vlan_mcam_entry_write(struct roc_nix *roc_nix,
875 					    uint32_t index,
876 					    struct mcam_entry *entry,
877 					    uint8_t intf, uint8_t enable);
878 int __roc_api roc_nix_vlan_mcam_entry_alloc_and_write(struct roc_nix *roc_nix,
879 						      struct mcam_entry *entry,
880 						      uint8_t intf,
881 						      uint8_t priority,
882 						      uint8_t ref_entry);
883 int __roc_api roc_nix_vlan_mcam_entry_free(struct roc_nix *roc_nix,
884 					   uint32_t index);
885 int __roc_api roc_nix_vlan_mcam_entry_ena_dis(struct roc_nix *roc_nix,
886 					      uint32_t index, const int enable);
887 int __roc_api roc_nix_vlan_strip_vtag_ena_dis(struct roc_nix *roc_nix,
888 					      bool enable);
889 int __roc_api roc_nix_vlan_insert_ena_dis(struct roc_nix *roc_nix,
890 					  struct roc_nix_vlan_config *vlan_cfg,
891 					  uint64_t *mcam_index, bool enable);
892 int __roc_api roc_nix_vlan_tpid_set(struct roc_nix *roc_nix, uint32_t type,
893 				    uint16_t tpid);
894 
895 /* MCAST*/
896 int __roc_api roc_nix_mcast_mcam_entry_alloc(struct roc_nix *roc_nix,
897 					     uint16_t nb_entries,
898 					     uint8_t priority,
899 					     uint16_t index[]);
900 int __roc_api roc_nix_mcast_mcam_entry_free(struct roc_nix *roc_nix,
901 					    uint32_t index);
902 int __roc_api roc_nix_mcast_mcam_entry_write(struct roc_nix *roc_nix,
903 					     struct mcam_entry *entry,
904 					     uint32_t index, uint8_t intf,
905 					     uint64_t action);
906 int __roc_api roc_nix_mcast_mcam_entry_ena_dis(struct roc_nix *roc_nix,
907 					       uint32_t index, bool enable);
908 #endif /* _ROC_NIX_H_ */
909