OpenAIは、新たな「備えの責任者」を募集していると発表しました。この役職は、コンピュータセキュリティからメンタルヘルスに至るまで、AIに関連する新たなリスクを研究することを目的としています。
OpenAIのサム・アルトマンCEOは、Xに投稿し、AIモデルが「いくつかの現実的な課題を呈し始めている」と認識していると述べました。特に、モデルがメンタルヘルスに与える影響や、コンピュータセキュリティにおいて重大な脆弱性を発見するほど優れている点を挙げています。
アルトマン氏は、「サイバーセキュリティの防御者が最先端の能力を持ちながら、攻撃者がそれを悪用できないようにする方法を見つける手助けをしたい方、すべてのシステムをより安全にすることを目指している方は、ぜひ応募を検討してください」と述べています。また、バイオロジカルな能力の解放や自己改善が可能なシステムの安全性を確保する方法についても言及しています。
OpenAIの「備えの責任者」の役割については、同社の準備フレームワークを実行する責任があるとしています。このフレームワークは、OpenAIが新たなリスクを追跡し、準備する方法を説明するものです。
2023年にOpenAIは、潜在的な「大災害リスク」を研究する「備えチーム」の設立を発表しました。このチームは、フィッシング攻撃のような即時的なリスクや、核の脅威のような推測的なリスクを研究する責任を負っています。
1年も経たないうちに、OpenAIは「備えの責任者」であったアレクサンダー・マドリー氏をAI推論に焦点を当てた役職に再配置しました。他の安全担当者も会社を離れるか、備えや安全以外の新たな役割を担っています。
最近、OpenAIは準備フレームワークを更新し、競合するAIラボが同様の保護策なしに「高リスク」モデルをリリースした場合、安全要件を「調整」する可能性があると述べています。
アルトマン氏が投稿で言及したように、生成AIチャットボットはメンタルヘルスへの影響についての監視が強まっています。最近の訴訟では、OpenAIのChatGPTがユーザーの妄想を強化し、社会的孤立を増加させ、さらには自殺に至らせたとされています。同社は、ChatGPTが感情的な苦痛の兆候を認識し、現実世界の支援につなげる能力を向上させるための取り組みを続けているとしています。
