フラッシュ2023年3月21日

• 画像識別AIの誤識別リスクを低減する技術を開発＝NIIなど

  by MITテクノロジーレビュー編集部 [MIT Technology Review Japan]

  国立情報学研究所（NII）と九州大学の共同研究チームは、画像識別人工知能（AI）の誤識別に対するリスクを効果的・効率的に低減する技術を開発した。同技術の自動運転AI向け実験では、自動車企業などを交えて定めた安全性ベンチマークで評価を実施。多数の安全要求を満たしたうえで狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認した。

  深層ニューラル・ネットワーク（DNN: Deep Neural Network）では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響する。そのため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下を発生させる問題がある。

  研究チームは今回、様々な誤識別を分類し、タイプごとに要因となるパラメーター群を探索することで、この問題を解決するDNN修正技術を開発した。最初に、「歩行者をバイク搭乗者と間違える」、「電車をバスと間違える」といったそれぞれの誤識別タイプに対し、その要因となっているパラメーター群を絞り込む。次に、その誤りを修正するためのパラメーター変更のパターンを探索。最後に、異なる誤識別のタイプそれぞれに対して効果的な修正候補を見いだした上で、それぞれの誤識別のリスクの大きさを踏まえてそれらの修正候補を統合することで、リスクの効果的・効率的な低減を実現する。

  今後は、開発した修正技術をフレームワークとして統合するとともに、自動運転のあり方に関するビジョンやポリシー、走行データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいくという。

  （中條）

  • 4

• 人気の記事ランキング

  1. AI companions are the final stage of digital addiction, and lawmakers are taking aim SNS超える中毒性、「AIコンパニオン」に安全対策求める声
  2. Promotion MITTR Emerging Technology Nite #32 Plus 中国AIをテーマに、MITTR「生成AI革命4」開催のご案内
  3. Anthropic can now track the bizarre inner workings of a large language model 大規模言語モデルは内部で 何をやっているのか？ 覗いて分かった奇妙な回路
  4. This Texas chemical plant could get its own nuclear reactors 化学工場に小型原子炉、ダウ・ケミカルらが初の敷地内設置を申請
  5. Tariffs are bad news for batteries トランプ関税で米電池産業に大打撃、主要部品の大半は中国製