사진 확대

人工知能(AI)チャットボットチャットGPTに元彼女を強姦·拉致·殺害するという計画を繰り返し入力した米国男性がオープンAIの申告で逮捕された。

米フロリダ州サウスパームビーチに居住し、ゴールドマンサックスウェストパームビーチ支店で金融アナリストとして働いていたダレン·チョウ（25）は3月、チャットGPTとの対話で別れたガールフレンドを殺害するという計画を詳細に打ち明けたが、結局捕まったとIT専門メディアフューチャリズムと現地新聞パームビーチポストなどが14日（現地時間）報道した。

捜査記録によると、周は6ヵ月間付き合った21歳の彼女と別れた後、チャットGPTに別れ後の感情と嫉妬心、相手の趣味とよく行く場所などを並べ始めた。 対話はすぐに具体的な暴力計画に広がった。

裁判所記録に残ったメッセージで彼は「今月末までに彼女を殺す」、「私が持てないならば誰も持てない」と書いた。 元彼女が通う体育施設の駐車場で花を持って待っていたが、断られたら銃を取り出して殺害し、自ら命を絶つというシナリオを説明した。 相手を銃で脅して自分の家に連れて行き、性的暴行を加え人質にするという計画、警察が出動すれば数発撃った後自殺するという内容、相手の家族全体を殺害するという言及まであった。

周はチャットGPTにAR-15系列小銃とグロック拳銃、散弾銃を購入したと話し、元彼女に銃器とケーブルタイ、ラテックス手袋の写真を送ったと明らかにした。 「今夜強姦すると携帯メールを送った」という内容もあった。

사진 확대

実際に彼は色々な電話番号とアプリケーションを動員して元彼女に執拗に連絡し威嚇·セクハラ性メッセージを送った。 被害女性は周の「衝動的で嫉妬が激しく統制的な行動」のせいで電話で別れを通知し、彼の反応が怖くて申告できずメッセージをスクリーンショットで集めておいたと陳述した。

オープンAIはこの対話を緊急状況と判断し、連邦捜査局（FBI）に届け出た。 FBIは5月、パームビーチ郡保安官室に2ヶ月分の対話記録を渡した。 記録を検討したある保安官補はこれを「漠然とした感情的噴出」ではなく計画と予行練習を繰り返したパターンと評価した。

周は5月に逮捕され、2日間拘禁されたが、保釈金10万ドル（約1億4000万ウォン）を払って釈放された。 ゴールドマンサックスは6月初め、事件を認知した後、彼を解雇したとフューチャリズムに確認した。

彼は加重ストーキング、殺害威嚇書面作成、犯行のための通信機器不法使用など最大25年刑に該当しうる疑惑で起訴されたが、8月有罪を認める代わりに実刑と重犯罪有罪判決を避けるフリーバーゲン(有罪交渉)に合意した。 裁判所は被害女性が合意を承認したという点を挙げて、これを受け入れて宣告を猶予し、保護観察8年を宣告した。 周は最初の2年間、電子足輪をつけ、家庭内暴力加害者介入プログラムの履修と精神健康評価·治療を受け、元彼女との接触および銃器·薬物·アルコールが禁止される。

周側の弁護人は彼がノースイースタン大学をマグナ·クム·ラウデ(優等)で卒業した前科のない人物で、「非常に大変な精神健康危機」を体験しただけで暴力的な人ではないと主張した。 メッセージの内容とは異なり、実際には銃器を所有していなかったとも釈明した。

사진 확대

オープンAIは、利用者が他人を傷つけようとする情況が感知されれば、訓練された小規模検討チームが対話を別途に調べ、他人に対する急迫した身体的危害の脅威があると判断されれば、法執行機関に渡すことができると明らかにしている。 ただ、同社は自害事例はプライバシー保護のために当局に申告しない。

今回の事件は、オープンAIが過去に申告をせず、議論になった事例と対比される。 4月、カナダブリティッシュコロンビア(BC)州タンブラーリッジ銃乱射事件遺族たちは犯人が攻撃数ヶ月前にチャットGPTに暴力的対話を残したのにオープンAIが警察に知らせなかったとし会社とサム·オルトマン最高経営者(CEO)を相手に訴訟を起こした。 NPR報道によると、オープンAIの自動化システムは2025年6月当時18歳だった犯人のアカウントを銃器暴力関連ですでに表示しておいたが、オープンAIは当時の対話が法執行機関移牒基準に達していなかったという立場だ。 この事件で9人が死亡した。