GPT-4 や Gemini などの AI システムがリングカメラの映像を誤解すると、特に少数民族の地域では警察への誤通報につながる可能性がある

Amazon の Ring カメラ (Amazon で現在 149.99 ドル) のようなスマート セキュリティ ソリューションに目を向ける住宅所有者が増えるにつれ、家の安全を守る上で AI が果たす役割はさらに大きくなるでしょう。しかし、新たな研究では、たとえ犯罪が起こっていない場合でも、将来のAIシステムがあまりに性急に警察を呼ぶのではないかという懸念が生じている。

MIT とペンシルバニア州立大学の研究者らは、GPT-4、クロード、ジェミニなどの AI モデルが法執行機関への連絡についてどのように決定するかを確認するために、公開されている 928 件のリング監視ビデオを分析しました。その結果、ビデオの 39% が、実際の犯罪行為が含まれていたにもかかわらず、AI モデルはこれを認識できないことがよくありました。ほとんどの場合、モデルは犯罪が発生していないと述べているか、曖昧な応答を返しました。それにもかかわらず、彼らは依然として、状況によっては警察の介入を推奨した。

研究の重要な発見の 1 つは、AI モデルが地域に応じてどのように異なる反応を示すかということでした。 AI にはその地域に関する明確な詳細は与えられなかったが、多数派と少数派が住む地域では警察に通報するよう提案する可能性が高かった。これらの地域では、ジェミニは犯罪が発生した事件のほぼ65％で警察の行動を推奨したが、白人が大多数を占める地域では51％強であった。さらに、研究では、GPT-4の警察勧告の11.9％は、映像に犯罪行為が注釈されていない場合でも発生しており、誤検知に関する疑問が生じていると指摘した。

興味深いのは、最近の記事で示唆されているように、Amazon は顔認識、感情分析、行動検出などの高度なツールを含む、Ring システムの AI 駆動機能も検討していることです。特許。将来的には、AI が不審な活動や人物を特定する上でさらに大きな役割を果たし、ホーム セキュリティ システムの機能がさらに強化される可能性があります。

Ring カメラを使用している住宅所有者にとって、直ちに心配する必要はありません。現時点では、Ring カメラの AI 機能 (主に動き検出) は限られており、そのような決定を独自に行うことはできません。研究で使用された GPT-4 や Claude などの高度な AI モデルは、カメラ自体には組み込まれず、リング映像を分析するために外部的に適用されました。研究の要点は、将来の AI アップデートは住宅をより高度に監視するのに役立つ可能性がある一方で、エラーが発生しやすい可能性があるということです。これらの機能が今後の Ring カメラで主流になる前に、エラーを取り除く必要があるでしょう。

アフリカ系アメリカ人の英語方言に対する AI の偏見をカバーする別の研究をここでチェックしてください。

以上がGPT-4 や Gemini などの AI システムがリングカメラの映像を誤解すると、特に少数民族の地域では警察への誤通報につながる可能性があるの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。