News

2023.09.05

知財ニュース

OpenAI、大規模言語モデル「GPT-3.5 Turbo」のアップデートを発表─ファインチューニングが可能に

GPT-3.5 Turbo fine-tuning

OpenAIは2023年8月22日(米国時間)、大規模言語モデル「GPT-3.5 Turbo」のアップデートを発表。ファインチューニング(事後学習)が可能になった。

同社によれば、「GPT-3.5 Turbo」はリリース以来、開発者や企業からモデルのカスタマイズ機能を求める声が多数寄せられていたとのこと。今回のプライベートベータ版では、ファインチューニングにより、日本語など常に指定された言語での応答や、出力の簡便化が可能になった。

また、指示に従う能力や、出力フォーマットの信頼性向上など、企業側がモデルの性能の改善も可能になったほか、4Kトークンにも対応。トーンのカスタマイズも可能で、企業のブランドにあわせた一貫したトーンでの応答などを指定できるほか、「コードの補間」や「JSON」など、実現したいアプリケーションに応じた特定の形式での応答も可能になった。

初期テスターでは、プロンプトの短縮によりプロンプトサイズを最大90%削減可能になり、コスト削減とAPIコールの高速化を実現。また、初期テストでは、カスタマイズにより、「GPT-4に匹敵するかそれを上回る」能力を示したという。

なお、「GPT-3.5 Turbo」は、API経由で利用する場合、ファインチューニングに用いられるデータは企業所有となるため、OpenAIや他の組織によるモデルのトレーニングには使用されない。そのため、同社では、プライバシーの懸念もないとしている。

同社によれば、ファンクション・コールと「gpt-3.5-turbo-16k」によるファインチューニングのサポートは、今秋以降に開始予定。また、GPT-4のファインチューニング機能も今秋の提供を予定している。

ニュースリリースはこちら

「ChatGPT」知財記事

Top Image : © OpenAI

広告