テスラの自動運転機能、道路標識への細工で80キロ加速
コネクティビティ

Hackers can trick a Tesla into accelerating by 50 miles per hour テスラの自動運転機能、道路標識への細工で80キロ加速

サイバーセキュリティ企業マカフィーの研究者は、道路脇の速度制限標識に些細な変更を加えることでテスラの自動運転システムをだまして、制限速度を80キロ超過させることに成功した。自律型システムが急増する中、「敵対的機械学習」の問題の影響は広範に及ぶことが危惧される。 by Patrick Howell O'Neill2020.02.25

クルマの「目」を信じてはいけない。

ハッカーがテスラの複数車種で、制限速度を約80キロ超過させることに成功した。人間の運転者ならほとんど気づかないような微細な変更を道路脇の速度制限標識に加えることで、テスラ車に搭載されているモービルアイ(MobilEye)製の画像処理チップ「EyeQ3」を欺いたのだ。

サイバーセキュリティ企業であるマカフィーが実施した今回のデモンストレーションは、敵対的機械学習によって自動運転システムが使いものにならなくなる可能性を示す最新の事例である。自動運転テクノロジーの商用化を目指す企業に対して、セキュリティ上の課題を突きつけるものだ。

マカフィー先端脅威研究チームのスティーブ・ポヴォルニーとシヴァンジー・トリベディによると、モービルアイの EyeQカメラシステムは速度制限標識を読み取り、その情報をテスラの自動クルーズコントロールのような自動運転システムに送信している。

実験でポヴォルニーらは、ほとんどの人が気づかないような小さなステッカーを速度制限標識に貼り付けた。すると、2016年発売のテスラ・モデルXと同年のモデルSに搭載されたEyeQカメラシステムは、時速35マイル(時速約56キロメートル)制限の標識を時速85マイル(時速約136キロ)制限と認識し、時速にして約80キロ加速してしまった。

https://www.youtube.com/watch?v=4uGV_fRj0UA

生命に関わるような危険な状況において、機械学習システムが攻撃を受けてだまされる可能性があることを示す研究は大幅に増加している …

こちらは会員限定の記事です。
メールアドレスの登録で続きを読めます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。
こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。
有料会員にはメリットがいっぱい!
  1. 毎月120本以上更新されるオリジナル記事で、人工知能から遺伝子療法まで、先端テクノロジーの最新動向がわかる。
  2. オリジナル記事をテーマ別に再構成したPDFファイル「eムック」を毎月配信。
    重要テーマが押さえられる。
  3. 各分野のキーパーソンを招いたトークイベント、関連セミナーに優待価格でご招待。