Menu

人工知能（AI）

解説：生成AIのハルシネーションはなぜ起きるのか

大規模言語モデルが「ハルシネーション（幻覚）」を生成することはよく知られている。ただ、その仕組みから明らかのように、LLMの出力は本質的にはすべてハルシネーションであり、間違いが発覚したものがそう呼ばれているだけだ。
台湾防衛の鍵、高度なドローンに　米シンクタンクが予測

米シンクタンクがまとめたシミュレーション結果によると、将来起こり得る台湾と中国の紛争ではドローン技術が極めて重要になる可能性がある。ウクライナ戦争とは異なる戦術、中国の優位性、そして台湾が直面する課題とは。
AI音声による詐欺防止へ　メタ、オーディオ透かしで新技術

詐欺やデマ目的での音声クローンツールの使用が増えている。メタの「AudioSeal」というツールが問題への対処に役立つ可能性がある。
AIは「笑い」を取れるか？プロがLLMにネタを書かせた結果

大規模言語モデルはコメディのネタを作るツールとして使えるのだろうか？グーグル・ディープマインドの研究チームは、AIを使ったことのあるプロのコメディアン20人に調査を実施し、現時点での結論を得た。
「手術ミスゼロ」監視システムに学ぶ、AI導入の3つの教訓

スタンフォード大教授が開発した手術室用のAI機能付き監視装置は、すでにいくつかの病院で使用されている。手術における安全の確保をうたい文句にするが、本来の目的を果たすことができるのだろうか。
手術室のすべてを記録する「AIブラックボックス」医療ミスは撲滅できるか

手術室の映像と音声を記録し、AI技術を用いて分析するシステムが欧米の一部の病院で導入されている。航空機に搭載されているブラックボックスの手術室版と言えるものだが、医師の反発は大きく導入へのハードルは高い。
生成AIでも「アップル流」、プライバシー保護で差別化訴え

生成AIブームに出遅れていたアップルがようやく参戦した。新機能「アップル・インテリジェンス」では、プライバシーを保護しながら個人に合ったサービスを提供するという。現時点で分かっている仕組みを解説する。
主張：生成AIを使ったプロパガンダ工作、AI企業は実態公表を

オープンAIは5月末に、同社の生成AIツールを利用したプロパガンダ活動の事例を公開した。これらの活動は実際にはさほど影響力がなかったとしているが、こうしたレポートの公開は今後、データ共有と併せて、業界の標準となるべきだ。
生成AIはSDGs達成に役立つか？国連サミットでの学び

5月末にジュネーブで開催された国連の会議では、「持続可能な開発目標」達成にAIがどう活用できるかが議論された。膨大なエネルギーを消費し、バイアスを助長しているAIを、いかに持続可能なものにするか、といった視点ではやや物足りない内容だった。
遭難者のドローン捜索、「勘」から「AI」で早期発見へ

山岳地方などでドローンを使って遭難者を捜索する際、捜索経路はほぼ人間の直感によって計画されている。深層学習AIシステムを使うことで、一分一秒を争う状況でより多くの命を救える可能性がある。
「ピザに接着剤がおすすめ」グーグルの検索AIはなぜ珍回答を返すのか

グーグルの新たなAI検索機能が、誤った情報を表示するケースがソーシャルメディアで指摘されて話題となっている。検索拡張生成（RAG）と呼ばれる手法で幻覚を回避しているはずだが、なぜ問題は起きたのか。
中国テック事情：GPT-4oだけじゃない中国語の訓練データ問題

オープンAIの「GPT-4o」の中国語で異常が発生したのは、訓練データの汚染が原因と見られている。背景にあるのは中国のインターネットの構造的な問題だ。
フィッシングから脱獄まで、生成AIで加速する犯罪5つ

生成AIの登場によって、フィッシングや詐欺などの犯罪行為はかつてないほど容易に実行できるようになった。自分の身を守るために知っておきたい、犯罪者のAI利用法を5つ紹介する。
eムック Vol.61「検証『生成AI革命』」特集号

MITテクノロジーレビュー［日本版］はeムック Vol.61 / 2024.05をリリースした。今月の特集は「検証「生成AI革命」　破壊と創造は進んだか」。
GPT-4oの中国語に異常ポルノ、ギャンブルでトークンが汚染されていた

オープンAIの最新の大規模言語モデル「GPT-4o」の中国語トークナイザーに、ポルノやギャンブル関連の用語が大量に含まれ、ハルシネーション（幻覚）が発生していることが分かった。訓練データのクリーニング不足が原因と見られる。
AIで「聞きたい声だけ」聞ける、ノイズキャンセリング新技術

群衆の中にいる友人や、都会の喧騒の中にいるツアーガイドなど、騒がしい環境下で特定の声に集中したい際に役立つ新技術だ。
生成AIによる選挙妨害は想定の範囲内、メタ幹部が対策強調

メタのの国際問題担当社長が、偽情報やAI生成コンテンツへの対策など、同社の取り組みについて語った。
AIが「心の理論」テストで人間超え、この結果は何を意味するか

人工知能(AI)モデルが、人間の感情理解力を測るテストで人間並み、時に上回る成績を収めたことが分かった。ただ、訓練データにそうしたタスクが含まれていた可能性も否定できず、大規模言語モデルが「人のように」考えているわけではない。
主張：クラウド・AIの軍事利用、今こそテック企業内部から声を

イスラエルのガザ地区への攻撃に、多くの米国テック企業のテクノロジーが使われている。グーグルなどのテック企業の従業員は、内部から声を上げるべきだ。
さよならAlexa、オープンAIとグーグルのAIアシスタントが超進化

グーグルとオープンAIが今週、それぞれ新しいAIアシストタントを発表した。SiriやAlexa（アレクサ）のようなツールからの飛躍的な進歩となる。
生成AI、グーグルの次の一手は？「I/O」で発表しそうなこと

グーグルは、真新しい多くの人工知能（AI）機能を発表し、あらゆる事業でAIの埋め込みをさらに進めるだろう。だが、検索結果などで間違った答えを堂々と提示する「ハルシネーション（幻覚）」の問題を解決している可能性は低い。
グーグルが「Astra」発表、AIアシスタントからエージェントへ

グーグルはAIエージェント「Astra（アストラ）」を発表した。今年後半にリリースされる予定で、AIアシスタントはユーザーの日常生活をサポートするエージェントに進歩する。
オープンAIが新モデル「GPT-4o」、音声や映像を統合

オープンAIは、新しいAIモデル「GPT-4o」を発表した。音声や映像を統合し、応答を高速化。無料版ユーザーにも提供する。
予測できない「AIの欺瞞」、機械がたどり着いた不可解な行動の理由

人工知能（AI）がさまざまなケースで、人間が訓練したわけでもないのに、「欺瞞」を実行することをまとめた研究が発表された。しかしAIは決して、人間を欺こうとしているわけではない。人間が設定した目標を、より上手く達成しようとしているだけなのだ。
生成AIブームの先にある知的ロボットへの道、データ争奪戦が始まった

生成AIが席捲する中、次なる目標として知的ロボットの実現への関心が高まっている。実現には大量の実世界のデータが必要だ。企業や研究者たちはより多くの訓練用データを手に入れようと躍起になっている。

フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る