AIが商品コメント欄に書き込み？ ネット広告の20％は生成AIが作った“ゴミ”？ 専門家「汚染はもっと悪化する」 ディストピアを回避する方法とは

　日進月歩の生成AI。そのリスク・負の側面の最前線に迫る。

【映像】生成AIが作った“ゴミ”とは？

　現在進行しているという生成AIによる“汚染”とはどのようなもので、どこまで進んでいるのか？ 桜美林大学の平和博教授は「これまでネットにもフェイクニュースなど、人間が作成した“ゴミ”と呼べるようなコンテンツがあったが、現在は生成AIが高度で大量のゴミを自動生成して吐き出している。例えば、アメリカの調査では既にネット広告の20％は生成AIが関与しており、さらには日本やヨーロッパでも偽のニュースサイトなどによる世論操作まで行われている」と驚きの事実を語った。

　現に、日本語を含む40を超す言語をカバーしたオープンソースの研究用データベース「ワードフリーク」が「生成AIによるデータ汚染」を理由に更新を停止した。

　平教授は「信頼できる情報を発信してきたメディアのビジネスモデルが崩壊している。アメリカでは『2週間に5つの新聞社が消滅』という驚きのペースで消えている。AIにはヒットするコンテンツを増幅させるような、いわゆる“ロングテール”の部分を切って頭の部分だけを肥大化させる傾向があり、その結果、世界が歪んでしまうという問題点もある」と警鐘を鳴らした。

　では、生成AIによる“汚染”が進んだ中、“浄化”あるいは“回避”する方法はあるのか？

　第一生命経済研究所主席研究員でAIやテクノロジーを専門に研究している柏村祐氏は「ITジャイアントなどがお金をかけて運用している生成AIモデルを使うこと」「AIリテラシーを高めて汚染された情報に翻弄されないこと」が大事だと強調した。

　平教授はこれに対し、「AIが学習するデータの『質』が大事であり、『ゴミを飲み込めば出てくるのはゴミ』になってしまうため、その点にリソースを割ける企業のモデルを利用すべきだ」と同意し、AIリテラシーについても「『そもそもAIには何ができて何ができないのか』『AIのリスクとは何か』という基本的なポイントをしっかり踏まえた上で使いこなしていくことが重要だ」と述べた。

　さらに、「法制度で枠組みを作っていく取り組みも必要になってくる。今年の5月、EUではAIの本格的な規制法が成立、アメリカでもAIを使って商品のコメント欄への偽の書き込みを禁止する規則を導入している」と説明した。
（『ABEMAヒルズ』より）