メリーランド州ボルチモア郡の高校で、AIセキュリティシステムが学生の持つチップスの袋を銃と誤認し、学生が手錠をかけられて捜索される事態が発生したと発表しました。
ケンウッド高校の学生であるタキ・アレンさんは、CNN系列のWBALに対し、「ドリトスの袋を持っていただけなのに、手の形が銃のように見えたと言われました」と述べました。その結果、アレンさんは「ひざまずかされ、手を後ろに回して手錠をかけられました」と話しています。
校長のケイティ・スミス氏は、保護者に対し、学校のセキュリティ部門が銃の検知アラートを確認し、取り消したとする声明を発表しました。しかし、スミス氏はアラートが取り消されたことにすぐには気づかず、学校のリソースオフィサーに報告し、現地警察が呼ばれたということです。
AI銃検知システムを運営するオムニラート社はCNNに対し、「この事件が発生したことを遺憾に思い、学生とその周囲のコミュニティに心からお見舞い申し上げます」と述べました。それでも、オムニラート社は「プロセスは意図通りに機能した」としています。
