Enumeration: GgufFileType

Defined in: gguf/types/GgufMetadataTypes.ts:101

Enumeration Members

Enumeration Member	Value	Defined in
ALL_F32	0	gguf/types/GgufMetadataTypes.ts:102
MOSTLY_F16	1	gguf/types/GgufMetadataTypes.ts:103
MOSTLY_Q4_0	2	gguf/types/GgufMetadataTypes.ts:104
MOSTLY_Q4_1	3	gguf/types/GgufMetadataTypes.ts:105
MOSTLY_Q4_1_SOME_F16	4	gguf/types/GgufMetadataTypes.ts:106
MOSTLY_Q4_2	5	gguf/types/GgufMetadataTypes.ts:107
MOSTLY_Q4_3	6	gguf/types/GgufMetadataTypes.ts:108
MOSTLY_Q8_0	7	gguf/types/GgufMetadataTypes.ts:109
MOSTLY_Q5_0	8	gguf/types/GgufMetadataTypes.ts:110
MOSTLY_Q5_1	9	gguf/types/GgufMetadataTypes.ts:111
MOSTLY_Q2_K	10	gguf/types/GgufMetadataTypes.ts:112
MOSTLY_Q3_K_S	11	gguf/types/GgufMetadataTypes.ts:113
MOSTLY_Q3_K_M	12	gguf/types/GgufMetadataTypes.ts:114
MOSTLY_Q3_K_L	13	gguf/types/GgufMetadataTypes.ts:115
MOSTLY_Q4_K_S	14	gguf/types/GgufMetadataTypes.ts:116
MOSTLY_Q4_K_M	15	gguf/types/GgufMetadataTypes.ts:117
MOSTLY_Q5_K_S	16	gguf/types/GgufMetadataTypes.ts:118
MOSTLY_Q5_K_M	17	gguf/types/GgufMetadataTypes.ts:119
MOSTLY_Q6_K	18	gguf/types/GgufMetadataTypes.ts:120
MOSTLY_IQ2_XXS	19	gguf/types/GgufMetadataTypes.ts:121
MOSTLY_IQ2_XS	20	gguf/types/GgufMetadataTypes.ts:122
MOSTLY_Q2_K_S	21	gguf/types/GgufMetadataTypes.ts:123
MOSTLY_IQ3_XS	22	gguf/types/GgufMetadataTypes.ts:124
MOSTLY_IQ3_XXS	23	gguf/types/GgufMetadataTypes.ts:125
MOSTLY_IQ1_S	24	gguf/types/GgufMetadataTypes.ts:126
MOSTLY_IQ4_NL	25	gguf/types/GgufMetadataTypes.ts:127
MOSTLY_IQ3_S	26	gguf/types/GgufMetadataTypes.ts:128
MOSTLY_IQ3_M	27	gguf/types/GgufMetadataTypes.ts:129
MOSTLY_IQ2_S	28	gguf/types/GgufMetadataTypes.ts:130
MOSTLY_IQ2_M	29	gguf/types/GgufMetadataTypes.ts:131
MOSTLY_IQ4_XS	30	gguf/types/GgufMetadataTypes.ts:132
MOSTLY_IQ1_M	31	gguf/types/GgufMetadataTypes.ts:133
MOSTLY_BF16	32	gguf/types/GgufMetadataTypes.ts:134
MOSTLY_Q4_0_4_4	33	gguf/types/GgufMetadataTypes.ts:135
MOSTLY_Q4_0_4_8	34	gguf/types/GgufMetadataTypes.ts:136
MOSTLY_Q4_0_8_8	35	gguf/types/GgufMetadataTypes.ts:137
MOSTLY_TQ1_0	36	gguf/types/GgufMetadataTypes.ts:138
MOSTLY_TQ2_0	37	gguf/types/GgufMetadataTypes.ts:139