Explorar o código

support create quantization param

Bruce MacDonald hai 1 ano
pai
achega
57ec49477d
Modificáronse 2 ficheiros con 2 adicións e 0 borrados
  1. 1 0
      src/browser.ts
  2. 1 0
      src/interfaces.ts

+ 1 - 0
src/browser.ts

@@ -148,6 +148,7 @@ export class Ollama {
       name: request.model,
       stream: request.stream,
       modelfile: request.modelfile,
+      quantization: request.quantization,
     })
   }
 

+ 1 - 0
src/interfaces.ts

@@ -90,6 +90,7 @@ export interface CreateRequest {
   model: string
   path?: string
   modelfile?: string
+  quantization?: string
   stream?: boolean
 }