OpenAI API提供了广泛的功能,可以应用于几乎任何涉及理解或生成自然语言、代码或图像的任务。这些模型不仅能够完成从内容生成到语义搜索和分类的各种任务,还具备不同功率水平的版本,适用于不同的应用场景,并允许用户通过微调来定制模型。
一、提示
在OpenAI的API使用中,提示(Prompts)的设计是一个核心环节。这涉及到如何“编程”模型,通常包括提供一系列的指令或示例。与其他专为单一任务(如情感分类或命名实体识别)设计的NLP服务不同,OpenAI的完成和聊天补全功能可用于多种任务,包括内容或代码生成、摘要、扩展、对话、创造性写作、样式转移等。
二、标记
标记(Tokens)是OpenAI模型处理和理解文本的基本单位。模型将文本分解为标记,这些标记可以是单词或字符块。例如,单词“汉堡包”被分解成标记“汉”,“堡”和“包”,而像“梨”这样的简短和常见的单词则作为一个标记。对于英文文本,大致的换算规则是1个标记约等于4个字符或0.75个单词。使用时需要注意,文本提示和生成的完成组合的总标记数不得超过模型的最大上下文长度(对大多数模型而言,这是2048个标记,或大约1500个单词)。
三、模型
OpenAI API由一系列具有不同功能和价格点的模型驱动。GPT-4是OpenAI最新推出的、功能强大的模型之一。GPT-3.5-Turbo则是优化了对话格式的模型,它驱动了ChatGPT。