「騙すAI」対「見抜くAI」 激化するフェイクニュース戦争の行方

あれはインターネット史上におけるねつ造ニュースの最初の一コマだったのかもしれない。1984年、ユースネット（Usenet）にソビエト連邦が参加していると誰かが投稿したのだ。その投稿は無害なエイプリルフールのいたずらであり、現在のほとんど武器と化した偽情報キャンペーンや、手っ取り早く儲けるための無節操な作り話からは程遠いものだった。だが、誤解を呼ぶ、悪意で歪められたオンライン・コンテンツがあまりに多くなった今日、もはや私たちはその泥沼から自分自身の力で抜け出すことが叶わなくなった。その代わりに、機械に救ってもらわなければならなくなる可能性はますます高まっている。

「アドベリファイ（AdVerif.ai）」は、この闇に光を照らすであろうアルゴリズムだ。アドベリファイは、でっち上げ、ヌード、マルウェア、その他の問題がある記事を検知するための人工知能（AI）ソフトウェアであり、同名のスタートアップ企業が運営している。2017年11月にベータ版が発表され、米国や欧州で、偽物や感情を害する可能性のある記事を排除したいコンテンツ・プラットフォームや広告ネットワーク企業と提携している。

アドベリファイの創業者兼CEO（最高経営責任者）であるオア・レヴィによると、同社は一般ユーザー向けではなく、企業向けの製品に焦点を当てることに商機を見い出したという。個々の消費者はどんどんクリックする記事のそれぞれの真実性を気にかけないかもしれないが、広告主やコンテンツ・プラットフォーム企業は悪いコンテンツを掲載したり広告したりすることで失うものがある。広告主やコンテンツ・プラットフォームがサービスを変更すれば、ねつ造ニュースを作って稼いでいる連中の収入を効果的に断ち切れるかもしれない。「アドベリファイは、この種のコンテンツとの戦いにおける大きな一歩になるでしょう」と、レヴィCEOはいう。

アドベリファイはコンテンツを読み込み、不適切だという証拠の兆候を見つけ出す。たとえば見出しが本文と合致しない、あるいは見出しに大文字が多すぎるなどだ。さらに、それぞれの記事を何千もの正当な記事や偽造記事のデータベース（毎週更新される）と照らし合わせてクロスチェックをする。システムは検討した各記事について、フェイクニュースやマルウェア、あるいはヌードなど、顧客企業が注意するように指示したさまざまなコンテンツが含まれている可能性を評価し、得点付けをした報告書を顧客に提供する。レヴィCEOは、ゆくゆくは巧みに処理した画像を見分ける能力を追加し、ブラウザーの …

人気の記事ランキング

1. Why handing over total control to AI agents would be a huge mistake 「AIがやりました」 便利すぎるエージェント丸投げが危うい理由
2. OpenAI has released its first research into how using ChatGPT affects people’s emotional wellbeing チャットGPTとの対話で孤独は深まる？ オープンAIとMITが研究
3. An ancient man’s remains were hacked apart and kept in a garage 切り刻まれた古代人、破壊的発掘から保存重視へと変わる考古学
4. How to have a child in the digital age 「あなたはもうママですね」 ネット・デジタルが約束する 「完璧な出産」の幻想