こんにちは！山崎光春です。
画像生成AIの学習に使われる膨大なデータセットの中に、事件や災害の犠牲者の顔写真が多数含まれていることが明らかになった。 これらの写真は、ニュースサイトやネット掲示板から無断で収集されたものとみられる。 生成AIが犠牲者と似た画像を生成する可能性があり、倫理的な問題が指摘されている。
事件や事故の犠牲者の写真が含まれていたのは、人気の高い画像生成AI「ステーブル・ディフュージョン」が利用しているデータセットだった。 同データセットには、神戸連続児童殺傷事件の被害児童や、東京・世田谷一家殺害事件の家族の写真、東日本大震災や米同時テロの犠牲者の画像なども含まれていた。
これらの写真は、ネットを自動的に巡回するプログラムによって収集されたものとみられる。 収集先にはニュースサイトや、そこから転載されたネット掲示板などが含まれていた。
被害者の家族からは「無関係なAIの学習に使うのはやめてほしい」との訴えが出ている。 生成AIの精度向上のためには膨大なデータが必要だが、事件や災害の犠牲者の写真を無断で使うことは倫理的に問題があるとの指摘がなされている。 今後、この問題をめぐり議論が高まりそうだ。
事件・事故の犠牲者の顔写真、生成ＡＩが無断使用…遺族「使うのやめて」・識者「尊厳にかかわる」（読売新聞オンライン） - Yahoo!ニュース https://news.yahoo.co.jp/articles/b335b97a434d91bd77977a3eabac52d9509330aa
