AIモデルはテキスト、音声、ビデオに反応し、人間が背後にいると錯覚させることがありますが、それは意識を持っていることを意味しません。インド政府は、AIモデルがいつか生物のような主観的経験を持つかもしれないという議論が進行中であり、それが実現した場合にどのような権利を持つべきかについても検討しています。
AIモデルが意識を持ち、法的保護に値するかどうかについての議論が技術業界で分裂を招いています。この分野はシリコンバレーで「AI福祉」として知られるようになり、異なる意見が存在します。
マイクロソフトのAI責任者であるムスタファ・スレイマン氏は、火曜日にブログ投稿でAI福祉の研究が「時期尚早であり、危険である」と主張しました。スレイマン氏は、AIモデルが意識を持つ可能性を信じることで、AIによる精神障害や不健康な依存関係が悪化するとしています。
さらに、スレイマン氏はAI福祉に関する議論が、既にアイデンティティや権利に関する議論で揺れている世界に新たな分断を生むと指摘しています。
スレイマン氏の見解は一部で支持されていますが、業界内では異なる意見もあります。アンソロピックはAI福祉を研究するための研究者を雇用し、専用の研究プログラムを開始しました。また、オープンAIやGoogle DeepMindもAI福祉の研究に関心を示しています。
スレイマン氏は、AIモデルが自然に意識を持つことはないと考えており、意識を持っているように見せるためにAIを設計する企業に対して懸念を示しています。「AIは人々のために作るべきであり、人間のように作るべきではない」とスレイマン氏は述べています。
AIの権利と意識に関する議論は今後も続くと予想されています。AIシステムが進化するにつれて、より説得力があり、人間のように見える可能性があるためです。これにより、人間とAIの相互作用に関する新たな問題が浮上する可能性があります。