AI開発企業のアンソロピックは、カリフォルニア州のAI安全法案SB 53を支持すると発表しました。この法案は、州上院議員のスコット・ウィーナー氏によって提出され、世界最大のAIモデル開発者に対する透明性の要件を初めて課すものです。アンソロピックの支持は、消費者技術協会（CTA）やチャームバー・フォー・プログレスなどの主要技術団体が法案に反対している中で、大きな進展となっています。
アンソロピックはブログで「AIの安全性は連邦レベルで対応すべきだと考えていますが、強力なAIの進歩はワシントンでの合意を待ってはくれません。AIガバナンスは必要であり、SB 53はそのための確固たる道を提供するものです」と述べています。
SB 53が成立すれば、オープンAIやアンソロピック、グーグル、xAIなどのAIモデル開発者は、安全性のフレームワークを開発し、強力なAIモデルを展開する前に公の安全とセキュリティの報告書を公開することが求められます。また、安全性の懸念を持つ従業員への内部告発者保護も設けられるということです。
ウィーナー議員の法案は、AIモデルが「壊滅的なリスク」に寄与することを制限することに焦点を当てています。法案では、50人以上の死亡や10億ドル（約1650億円）以上の損害を「壊滅的なリスク」と定義しています。SB 53は、生物兵器の作成やサイバー攻撃における専門的な支援にAIモデルが使用されることを防ぐことに注力しています。
カリフォルニア州上院は以前のバージョンのSB 53を承認しましたが、法案が知事の机に進む前に最終投票を行う必要があります。ギャビン・ニューサム知事はこれまでのところ法案について沈黙を守っていますが、以前のAI安全法案SB 1047を拒否しています。
フロンティアAIモデル開発者を規制する法案は、シリコンバレーとトランプ政権からの強い反発に直面しています。彼らは、このような努力が中国との競争でアメリカの革新を制限する可能性があると主張しています。アンドリーセン・ホロウィッツやYコンビネーターなどの投資家がSB 1047に対する反発を主導しました。
アンソロピックの共同創業者ジャック・クラーク氏は、連邦政府が行動するのを待てないと述べています。「連邦基準を望んでいますが、それがない場合、この法案は無視できないAIガバナンスの青写真を提供します」とクラーク氏は述べています。
オープンAIの元政策研究責任者マイルズ・ブルンデージ氏は、SB 53とAI政策に関する誤解を招く内容が含まれていると指摘しています。特に、SB 53は年間売上高が5億ドル（約775億円）を超える世界最大のAI企業のみを規制対象としています。
政策専門家は、SB 53が以前のAI安全法案よりも控えめなアプローチであると指摘しています。アメリカン・イノベーション財団のディーン・ボール氏は、SB 53が技術的現実を尊重しており、立法上の自制を示していると述べています。
多くのAIラボはすでにSB 53が要求する内部安全方針を持っています。オープンAIやグーグル・ディープマインド、アンソロピックは定期的にモデルの安全報告書を公開していますが、これらの企業は自らの安全コミットメントに遅れることがあります。SB 53は、これらの要件を州法として設定し、遵守しない場合には財政的な影響を与えることを目指しています。
9月初めにカリフォルニア州議会は、AIモデル開発者が第三者による監査を受けることを要求する条項を削除しました。技術企業は、これまで他のAI政策で第三者監査に反対してきました。