Enumeration: GgufFileType

Enumeration Members

Enumeration Member	Value	Defined in
ALL_F32	0	gguf/types/GgufMetadataTypes.ts:81
MOSTLY_F16	1	gguf/types/GgufMetadataTypes.ts:82
MOSTLY_Q4_0	2	gguf/types/GgufMetadataTypes.ts:83
MOSTLY_Q4_1	3	gguf/types/GgufMetadataTypes.ts:84
MOSTLY_Q4_1_SOME_F16	4	gguf/types/GgufMetadataTypes.ts:85
MOSTLY_Q4_2	5	gguf/types/GgufMetadataTypes.ts:86
MOSTLY_Q4_3	6	gguf/types/GgufMetadataTypes.ts:87
MOSTLY_Q8_0	7	gguf/types/GgufMetadataTypes.ts:88
MOSTLY_Q5_0	8	gguf/types/GgufMetadataTypes.ts:89
MOSTLY_Q5_1	9	gguf/types/GgufMetadataTypes.ts:90
MOSTLY_Q2_K	10	gguf/types/GgufMetadataTypes.ts:91
MOSTLY_Q3_K_S	11	gguf/types/GgufMetadataTypes.ts:92
MOSTLY_Q3_K_M	12	gguf/types/GgufMetadataTypes.ts:93
MOSTLY_Q3_K_L	13	gguf/types/GgufMetadataTypes.ts:94
MOSTLY_Q4_K_S	14	gguf/types/GgufMetadataTypes.ts:95
MOSTLY_Q4_K_M	15	gguf/types/GgufMetadataTypes.ts:96
MOSTLY_Q5_K_S	16	gguf/types/GgufMetadataTypes.ts:97
MOSTLY_Q5_K_M	17	gguf/types/GgufMetadataTypes.ts:98
MOSTLY_Q6_K	18	gguf/types/GgufMetadataTypes.ts:99
MOSTLY_IQ2_XXS	19	gguf/types/GgufMetadataTypes.ts:100
MOSTLY_IQ2_XS	20	gguf/types/GgufMetadataTypes.ts:101
MOSTLY_Q2_K_S	21	gguf/types/GgufMetadataTypes.ts:102
MOSTLY_IQ3_XS	22	gguf/types/GgufMetadataTypes.ts:103
MOSTLY_IQ3_XXS	23	gguf/types/GgufMetadataTypes.ts:104
MOSTLY_IQ1_S	24	gguf/types/GgufMetadataTypes.ts:105
MOSTLY_IQ4_NL	25	gguf/types/GgufMetadataTypes.ts:106
MOSTLY_IQ3_S	26	gguf/types/GgufMetadataTypes.ts:107
MOSTLY_IQ3_M	27	gguf/types/GgufMetadataTypes.ts:108
MOSTLY_IQ2_S	28	gguf/types/GgufMetadataTypes.ts:109
MOSTLY_IQ2_M	29	gguf/types/GgufMetadataTypes.ts:110
MOSTLY_IQ4_XS	30	gguf/types/GgufMetadataTypes.ts:111
MOSTLY_IQ1_M	31	gguf/types/GgufMetadataTypes.ts:112
MOSTLY_BF16	32	gguf/types/GgufMetadataTypes.ts:113
MOSTLY_Q4_0_4_4	33	gguf/types/GgufMetadataTypes.ts:114
MOSTLY_Q4_0_4_8	34	gguf/types/GgufMetadataTypes.ts:115
MOSTLY_Q4_0_8_8	35	gguf/types/GgufMetadataTypes.ts:116
LLAMA_FTYPE_MOSTLY_TQ1_0	36	gguf/types/GgufMetadataTypes.ts:117
LLAMA_FTYPE_MOSTLY_TQ2_0	37	gguf/types/GgufMetadataTypes.ts:118