AIインシデントデータベース

にようこそ

カナダ児童保護センター（C3P）によると、ヌード検出AIツールの開発に使用された大規模な画像データセットには、児童性的虐待資料（CSAM）の画像が多数含まれているという。

インターネットから収集された70万枚以上の画像を含むNudeNetデータセットは、画像内のヌードを自動検出できるAI画像分類器の学習に使用された。 C3Pは、2019年6月に研究データ共有プラットフォームであるAcademic TorrentsからNudeNetデータセットがダウンロード可能になって以来、250件以上の学術論文が同データセットを引用または使用していることを発見しました。

「これらの学術プロジェクト50件を網羅的ではない形で調査した結果、13件がNudeNetデータセットを利用し、29件がNudeNet分類器またはモデルに依存していることが判明しました」とC3Pは発表の中で述べています。

C3Pは、データセット内に、特定済みまたは既知のCSAM被害者の画像120枚以上を発見しました。その中には、思春期前であることが確認されている、または思春期前と思われる子供の性器または肛門領域に焦点を当てた画像が70枚近く含まれていました。 「場合によっては、フェラチオや陰茎膣挿入など、児童や10代の若者が関与する性的行為や虐待行為を描写した画像も含まれている」とC3Pは述べている。

データセットをダウンロードした個人や組織は、CSAMが含まれているかどうかは、自分で探さない限り知る由もなく、おそらく探したことはないだろう。しかし、これらの画像を自分のマシンに保存することは、技術的には犯罪となる。

「CSAMは違法であり、ホスティングや配布は作成者や研究者に多大な責任を負わせることになる。さらに、これらの画像の被害者は、これらの画像の配布や訓練での使用に同意していない可能性が高いという、より大きな倫理的問題もある」と、カリフォルニア大学バークレー校の教授で、デジタル加工画像の世界的権威であるハニー・ファリド氏はメールで述べた。ファリド氏は、広く使用されている画像識別・コンテンツフィルタリングツールであるPhotoDNAの開発者でもある。「たとえ目的が崇高なものであっても、今回のケースでは手段を正当化するものではない」

「アプリケーションや研究活動の機能をサポートするために使用されているAIモデルの多くは、無差別に、あるいは倫理的に問題のある方法で収集されたデータでトレーニングされています。こうしたデューデリジェンスの欠如が、こうした種類のデータセットに児童性的虐待や搾取に関する既知の資料が紛れ込んでしまう原因となっています。これは大部分が予防可能なことです」と、C3Pの技術ディレクターであるロイド・リチャードソン氏は述べています。

Academic Torrentsは、C3Pが管理者に削除通知を出した後、このデータセットを削除しました。

「児童の性的搾取を報告するためのカナダの全国的な通報窓口を運営する中で、私たちは一般の人々から毎日情報や通報を受けています」とリチャードソン氏はメールで述べています。「NudeNet画像データセットの場合、データセットにCSAMが含まれている可能性について、ある個人から懸念の声が上がり、私たちはより詳しく調査することになりました。」

C3Pの調査結果は、スタンフォード大学サイバーポリシーセンターによる2023年の研究結果と類似しています。この研究では、AI生成画像に使用されている最大級のデータセットの一つであるLAION-5BにCSAMも含まれているという結果が出ています。LAION-5Bを管理する組織は、この報告を受けてインターネットからデータを削除し、問題の画像を削除した後にのみ再び共有しました。

「これらの画像データセットは通常、審査を受けておらず、何百人もの研究者、企業、愛好家が利用できるようにオンラインで宣伝・配布されており、時には商業目的で利用されることもあります」とリチャードソン氏は語りました。現時点では、自社製品がもたらす可能性のある危害や搾取について検討している人はほとんどいません。また、これらの画像の多くが児童性的虐待犯罪の証拠であることも忘れてはなりません。イノベーションを急ぐあまり、私たちは多くの付随的被害を目にしていますが、多くの人はそれを認識していません。結局のところ、私たちにはAI技術を責任ある倫理的な方法で開発する義務があると思います。

更新：この記事はロイド・リチャードソン氏のコメントを反映して更新されました。

ケイト・ギャラウェイさんは、AIが生成した自分と架空の「新しいパートナー」の偽画像が子供たちに「傷を与えた」と語った。

「グッド・モーニング・ブリテン」のスターである彼女は、2024年1月に新型コロナウイルスの合併症による長い闘病生活の末、最愛の夫デレク・ドレイパーさんを亡くした。

彼の死から2年が経った今、ITVの司会者であるギャラウェイさんが、オンライン上のいたずらの被害に遭ったと、Mirrorが報じている。

58歳の彼女は、当初は偽画像を「笑い飛ばした」が、すぐにその虚偽の噂が彼女とデレクの2人の子供にどれほど影響を与えているかに気づいたという。

ケイトはインスタグラムでこの噂について言及し、「ここ何ヶ月もの間、（私のことをよく知っている人たちでさえも）世間で言われている、全くの作り話について尋ねられてきました。

「ある意味、人々が私のことを気にかけてくれているのは本当に嬉しいことですが、それがフェイクニュースだとしたら、とても混乱し、場合によっては子供たちを傷つけることになります。」

彼女はさらにThe Sunの記事でもこの件に触れ、架空のカップルはリチャード・アーノルドやベン・シェパードといった共演者や友人だと説明した。

ケイトは同紙に「私たちは笑い飛ばしました」と綴った。

しかし、彼女はこう付け加えた。「私にとっての転機となったのは、これが子供たちやデレクの家族にも影響を与えるかもしれないと気づいた時でした。」

「おそらくアルゴリズムが送ってきたと思われる見出しが、『ケイト・ギャラウェイの新恋人について知っておくべきことすべて』と表示されました。」

彼女は、実際には存在しないこの新しい男性についてもっと知りたくて「驚き、興味をそそられた」と語りましたが、ある詳細に「凍り付いた」と付け加えました。

ケイトは、息子が幸せではなく、母親に「関係」を終わらせてほしいと言っているという主張に激怒していました。

テレビの人気者ケイトは、16歳の息子は、母親の幸せを邪魔しているという報道さえなく、すでに十分に対処しなければならない状況にあると述べ、「その正反対だ」と主張しました。

「すべてが偽造できると、証拠は意味を失い始めます」と彼女は言い、一度信頼が損なわれると、「それを取り戻すのは非常に難しい」と付け加えました。

彼女は以前、インスタグラムのフォロワーに向けてこう語っていた。「ありがたいことに、世の中にはちゃんとした『人間』のジャーナリストがまだいる。でも、ネットで『ニュース』を得るときは、信頼できる情報源かどうか、私たち全員が考えなければならない。

今回の件は私だけに影響があって、根本的に馬鹿げていて愚かだけど、もしもっと重要なことだったら、どれほどのダメージを与えただろうか？」

主張:

2025年12月にオンラインで共有された写真には、JD・ヴァンス米国副大統領が妻のウシャ・ヴァンス氏とレストランで口論している様子が写っていました。

評価:

偽物

2025年12月、JD・ヴァンス米国副大統領が妻のウシャ・ヴァンス氏とレストランで口論している様子を写したとされるソーシャルメディアで拡散された画像が公開されました。

写真には、白いTシャツを着たJD・ヴァンス氏が、ウシャ・ヴァンス氏の向かいに座り、厳しい表情をしている様子が写っていました。 Facebookでシェアしたユーザー (アーカイブ済み) がこう書いています:

共和党員街の状況はあまり良くないようです。ウシャはリベラル派です。昔からずっとそうでした。どうやら二人はレストランを静めるほどの大声で口論していたようです。なぜ彼はTシャツを着ているのでしょうか？

この画像はFacebook およびX (アーカイブはこちら およびこちら) でも拡散されました。つまり、これは偽物でした。

Snopesが最初に記事を公開した後、YouTuberのキース・エドワーズ氏が連絡を取り、この画像が偽物であることを確認しました。 [サムネイル](https://external-sea5-1.xx.fbcdn.net/emg1/v/t13/5747085207477642820?stp=dst-src&url=https%3A%2F%2Fi.ytimg.com%2Fvi%2Fxz4hXCfWO_8%2Fmaxresdefault.jpg&utld=ytimg.com&_nc_gid=pbsエドワーズ氏は、2025年10月の動画のために作成したサムネイル（O479mq5OPhwv6NzM64w&_nc_oc=AdkvUMxMcObEcIx0zT6Wrxtcq14j7lWDlqEFdWVS_v9scC6nNFNJVAkT8DSbQmuvHBk&ccb=13-1&oh=06_Q3-6Abzlpq6uIuPYeNHwP5fIKJH_iPFHdfG_82wpX8XsZMRc&oe=693BFB35&_nc_sid=1d65fc）を公開し、「偽物」だと説明しました。エドワーズ氏は、この画像の作成に人工知能プラットフォーム「ChatGPT」を使用したと述べています。

サムネイルはソーシャルメディアで拡散されている画像と一致していました。どちらの画像でも、男性の表情や女性のポーズは同じでした。逆画像検索を行っても、偽造された画像の初期バージョンは見つかりませんでした。

JD・ヴァンス氏自身も、この画像が偽物であるという結論を支持しているようです（12月9日のXへの投稿 (アーカイブ)）。この画像を共有したユーザーに対し、この噂を揶揄するようなコメントで返信し、「妻と大声で喧嘩をするために公共の場で出かけるときは、いつもアンダーシャツを着ている」と投稿しました。

また、この画像をHive、Sightengine、Image Whispererという3つのAI検出プラットフォームで検査しました。Sightengineは、この画像がAI生成画像である確率を97%と推定し、Image Whispererは「高い確信度」でAI生成画像であると結論付けました。 

しかし、Hiveはこの画像に「AI生成またはディープフェイクコンテンツが含まれている可能性は低い」とフラグ付けしました。これらのツールは必ずしも正確ではないため、結果の解釈には注意が必要です。

エドワーズ氏の確認に先立ち、デジタルメディアの真贋判定を専門とするGetReal SecurityのチームもSnopesのためにこの画像を分析していました。

GetRealの共同創設者であり、カリフォルニア大学バークレー校の教授でもあるHany Farid氏は、画像の品質が低いため法医学的分析が困難だったと述べています。しかし、チームは「生体認証の異常」を発見し、この画像は「AI生成か、単に[JD] Vance氏に似た人物の写真である可能性」を示唆しています。

「特に、画像の顔の特徴は、Vance氏の同時代の画像と一致しません」とFarid氏は付け加えました。同時期の画像とは、ある画像の真正性を検証するために使用される、ほぼ同時期に撮影された写真のことです。

ドレクセル大学電気・コンピュータ工学科の准教授であるマシュー・スタム氏は、Snopesに対し、彼と博士課程の学生が、生成AIによって残された微妙な「指紋」を検出する特殊なフォレンジックツールを用いて、この画像をAI生成画像かどうかを分析したと述べました。スタム氏によると、このツールは「生成AIによって残された痕跡を検出できないと、約95%の信頼度で判断した」とのことです。

しかし、スタム氏は、これが画像が本物であることを証明するものではなく、AI生成画像であることを決定的に否定することはできないと警告しました。画像のサイズ、低解像度、ソーシャルメディアでの繰り返しの共有といった要因が分析を困難にし、「犯罪現場の指紋が汚れるのと同じように、分析するフォレンジック痕跡の質が変化する」とスタム氏は説明しました。 

この捏造された画像は、2025年10月から広まり始めたヴァンス夫妻の結婚生活に亀裂が生じているという噂の中で、インターネット上で拡散しました。翌月に撮影されたウシャ・ヴァンスが結婚指輪を外している写真は、さらなる憶測を煽りました。

しかし、広報担当者は11月21日の声明でUSA Todayに対し、「ウシャ・ヴァンスは3人の幼い子どもの母親で、皿洗いをしたり、お風呂に入れたり、指輪を忘れたりすることが多い」と述べています。 11月に公開されたその他のゲッティイメージズでは、ウシャ・ヴァンスが結婚指輪をはめている様子が写っている。

12月4日のNBCニュースのインタビューで、JDヴァンス氏は、夫婦の結婚生活は「これまでで最も強い」と語った。

移民関税執行局（ICE）が1万人の新規採用を急いでいた際、応募書類の処理方法にAI（人工知能）のエラーが発生し、多くの新人が適切な訓練を受けずに現場の事務所に配属されたと、このエラーに詳しい法執行官2人が明らかにした。

ICEが使用していたAIツールは、法執行経験のある応募者を募集し、既に法執行官である新人のための「LEOプログラム」（Law Force Officerの略）に配属するという任務を負っていた。このプログラムでは4週間のオンライン研修が義務付けられている。

法執行経験のない応募者は、ジョージア州連邦法執行官訓練センターにあるICEアカデミーで、移民法や銃の取り扱いに関するコースに加え、体力テストを含む8週間の対面コースを受講する必要がある。

「彼らはAIを使って履歴書をスキャンしたところ、LEOだった人の多くが実際にはLEOではなかったことを発見した」と、ある当局者は述べた。

当局者によると、このAIツールは当初、履歴書を分類するために使用されており、履歴書に「警官」という言葉が含まれている人物（例えば、「コンプライアンス担当官」やICE（移民税関捜査局）の職員を目指す人物など）にフラグを付けていたという。

当局者によると、新規応募者の大半は法執行官としてフラグ付けされていたが、多くは地方警察や連邦法執行機関での経験がなかったという。

法執行機関の両当局者は、ICEの現場事務所では、警察官が現場に派遣される前に、アカデミーやオンラインコースで提供される以上の訓練を行っており、AIツールによって選ばれた警察官は、おそらくその訓練を受けていると指摘した。当局者は公の場で発言する権限がなく、匿名を条件にNBCニュースに語った。

国土安全保障省の広報担当者は、これは「技術的な問題」でありすぐに修正されたと述べ、影響を受けた約200人の採用者がその後、連邦法執行機関訓練センターで本格的な訓練を受けたと述べた。広報担当者は、「適切な訓練と資格」を持たない候補者が執行任務に就くことはなかったと述べた。

広報担当者は、「採用急増中に採用された新人警察官の大多数は、既に法執行アカデミーを修了した経験豊富な法執行官である」と述べた。

AIのミスは、採用急増から1か月以上経過した秋の半ばに発見され、ICEは直ちに状況改善のための措置を講じ、新規採用者の履歴書を手動で審査するなどしたと当局者は述べた。

移民局がアメリカの都市に職員を急増させる中、ミネアポリスでICE職員ジョナサン・ロスによるレニー・ニコル・グッド射殺事件を受けて、その執行戦術は地方の法執行機関、地域団体、そして議員からますます疑問視されている。

ロス氏はICEで10年以上の勤務経験があり、新規採用者に対するAIスクリーニングの対象にはならなかったはずだ。

このミスは、ICEがホワイトハウスからの圧力を受け、国外追放者数を増やすための活動を強化し続けている中で、これほど多くの新規採用者を訓練することの難しさを浮き彫りにしている。  NBCニュースの報道によると、ICEは一部の新規採用者を、審査プロセスを完了する前に訓練プログラムに参加させている。

ミネアポリスだけでも、逮捕活動を強化するため2,000人以上のICE（移民税関捜査局）職員が派遣され、11月29日以降2,400人以上を逮捕したと、国土安全保障省（DHS）の広報担当者トリシア・マクラフリン氏は述べた。ミネソタ州はDHSの排除を求めて訴訟を起こしている。

ICEは2025年末までに1万人の新規職員を雇用する義務を負っており、議会が「ワン・ビッグ・ビューティフル・ビル」に基づいて割り当てた資金を使って、新規採用者に5万ドルの契約金を提供していた。当局者の一人は、ICEは書類上は目標を達成したものの、誤認された人々をさらなる訓練のために呼び戻したことにより、2025年までに路上に1万人のICE職員を増員することには成功しなかったと述べた。

米国運輸省は今週、自動運転バスをワシントンD.C.に持ち込み、自動運転車の研究成果を披露しました。全米各地から集まった関係者を乗せ、ネイビーヤードにある運輸省本部とユニオン駅の間を走行しました。この走行の1つは、日曜日にバスが追突事故に遭い、中断されました。

Beep社製のバスは、所定のルートを走行中、車線変更を試みていたメリーランド州のナンバープレートをつけたテスラ車に衝突されたと当局は述べています。バスには、市の規定に従い、バックアップとして人間の運転手が運転席に座っていました。テスラ車の運転手はHストリートの現場で約10分間待機していました。警察への通報はありませんでした。

Beep社の広報担当者は声明で、「別の車両が違法な車線変更を行い、自動運転バスの後部に接触したため、運行は一時停止されました。この事故により、両車両に軽微な外観上の損傷が発生しました」と述べています。「自動運転バスはその時点では適切に運行しており、確認の結果、運行を再開しても安全であると判断されました。」

Beep社は、運輸省およびカーネギーメロン大学と共同で、自動運転公共バスのパイロットプログラムに取り組んでいます。この車両は、交通研究者と政策立案者らが集まる年次会議のためにワシントンD.C.に持ち込まれ、トランプ政権関係者はホワイトハウスの自動運転への関心を強調しました。

「ショーン・P・ダフィー長官を通じて示されたトランプ大統領の優先事項の一つは、自動運転車の商用展開を加速することであり、我々はこれに全力で取り組んでいます」と、米国道路交通安全局（NHTSA）の主任顧問であるピーター・シムシャウザー氏は、同会議の月曜日のパネルディスカッションで述べました。

シムシャウザー氏は以前、ヒュンダイのロボタクシーベンチャーであるMotionalで勤務しており、同社は今年ラスベガスでのサービス開始を目指しています。政権の「イノベーション・アジェンダ」に関するパネルディスカッションには、運輸省研究担当次官補のセヴァル・オズ氏も参加しました。オズ氏は、ウェイモの前身となるグーグルの自動運転車プログラムや、自動運転用のセンサーやソフトウェアの開発に携わっていました。

彼女は、米国で年間約4万人が交通事故で亡くなっている現状を「疫病」と呼び、自動運転車がこれを撲滅する一助となる可能性があると述べた。「しかし、自動運転は私たちの都市も変えるでしょう。運転に対する私たちの考え方も変わるでしょう」と彼女は述べた。

全米では、少数の都市や州でロボットタクシーやバスが完全自動運転に取り組んでおり、今後数年間でさらに多くの都市や州で試験運行や商用化計画が進められており、積極的な拡大が見込まれている。地区の指導者たちは、ほぼ10年にわたって自動運転車と自動運転バスの運行許可を検討しており、ウェイモなどの企業は市内で自動運転タクシーを運行することに関心を示しています。しかし、当局者は、人間の監視なしで路上での運行を許可する前に、車両をどのように規制するのが最善かについての、長らく待たれていた報告書をまだ待っていると述べています。

自動運転車による事故は、どんなに軽微なものであっても、NHTSA（国家道路交通安全局）に報告する必要があります。NHTSAによると、ワシントンD.C.で試験走行中の自動運転車が関与する事故はこれまでに6件発生しています。