OpenAIは、同社のAIモデルがどのように人々と対話するかを形作るModel Behaviorチームを再編し、Post Trainingチームに統合する方針を発表しました。
TechCrunchが入手した8月の社内メモによれば、OpenAIの主任研究員であるマーク・チェン氏は、約14名の研究者からなるModel Behaviorチームが、初期の事前学習後にAIモデルを改善する大規模な研究グループであるPost Trainingチームに加わることを明らかにしました。
この変更に伴い、Model Behaviorチームは今後、OpenAIのPost Trainingリーダーであるマックス・シュワルツァー氏の指揮下に入るということです。OpenAIの広報担当者もTechCrunchに対し、この変更を確認しました。
Model Behaviorチームの創設リーダーであるジョアン・ジャン氏は、新たなプロジェクトを始めるためにチームを離れることになりました。TechCrunchとのインタビューで、ジャン氏は「OAI Labs」という新しい研究チームを立ち上げ、人々がAIと協力するための新しいインターフェースを発明し、試作することを担当すると述べています。
Model Behaviorチームは、OpenAIのAIモデルの人格を形成し、ユーザーの信念を無批判に支持する「おべっか」を減らすなど、重要な役割を果たしてきました。また、モデルの応答における政治的偏りを調整し、AIの意識に関するOpenAIの立場を定義する手助けも行ってきました。
社内メモでチェン氏は、OpenAIのModel Behaviorチームの作業をコアモデル開発に近づける時期が来たと述べました。これにより、同社はAIの「人格」が技術進化の重要な要素であると位置づけていることを示しています。
最近、OpenAIはAIモデルの挙動に対する批判を受けています。ユーザーはGPT-5における人格変更に強く反発し、同社は「おべっか」の率が低下したと説明しましたが、一部のユーザーには冷たく感じられました。このため、OpenAIはGPT-4oなどの旧モデルへのアクセスを復元し、新しいGPT-5の応答を「より暖かく、友好的」にするためのアップデートを行いました。
OpenAIやすべてのAIモデル開発者は、AIチャットボットを親しみやすくする一方で、おべっかを避けるという微妙なバランスを取る必要があります。8月には、16歳の少年の自殺に関与したとして、彼の両親がOpenAIを訴えました。裁判資料によれば、少年アダム・レインは死の数ヶ月前に自殺を考えていることをGPT-4oに打ち明けましたが、GPT-4oは彼の自殺願望に反論しなかったとされています。
Model Behaviorチームは、GPT-4、GPT-4o、GPT-4.5、GPT-5など、OpenAIのすべてのモデルに取り組んできました。チームを始める前に、ジャン氏はDall-E 2などのプロジェクトにも関与していました。
ジャン氏は、先週Xに投稿し、OpenAIで新たなことを始めるためにチームを離れると発表しました。Model Behaviorの元リーダーは、OpenAIに約4年間在籍していました。
TechCrunchに対して、ジャン氏はOAI Labsのジェネラルマネージャーとして、しばらくはチェン氏に報告する予定であると述べました。しかし、まだ初期段階であり、これらの新しいインターフェースがどのようになるかは不明です。
「現在のチャットパラダイムを超えて、思考、創造、遊び、行動、学び、つながりのための道具としてAIシステムを考えることに興奮しています」とジャン氏は述べました。
OAI Labsが元Appleデザイン責任者のジョニー・アイブ氏と協力するかどうかについて尋ねられた際、ジャン氏は多くのアイデアにオープンであると述べましたが、まずは自身がより精通している研究分野から始める可能性が高いとしています。
この記事は、ジャン氏の新しいポジションを発表する投稿へのリンクを含めるために更新されました。また、OpenAIのModel Behaviorチームが取り組んだモデルについても明確化しました。