機械学習システムに関わる安全性をめぐる懸念が大きく取り上げることはこれまでなかった。画像のラベルづけや音声認識に間違いがあればいらつくかもしれないが、それによって誰かの命が危険に晒されることはない。だが、自律自動車、ドローン、さらには製造業で用いられるロボットを巡ってリスクが高まっている。
トロント大学ダイナミック・システム・ラボのアンジェラ・シェリグ主任研究員が開発した学習アルゴリズムでは、複数のロボットが他のロボットと共同で学習する。これにより、初めての場所を飛行する飛行ロボットが壁に衝突しない、あるいは自動運転車が初めて走行する道でも車線を外れない、といったことが実現する。シェリグの研究により、自律飛行機や自律走行車が風や積載荷重の変化、想定外の道路状況といった不確定要素があっても、あらかじめ設定したルートを飛行または走行することが可能になった。これにより、現在のロボットの能力をさらに広げられることが実証された。
シェリグは、チューリヒのスイス連邦工科大学の博士課程に在籍時に、10立方メートルのフライング・マシーン・アリーナを共同で作った。閉じた空間で複数のドローンを同時に飛行させる訓練をすることが目的だった。
2010年、シェリグは無人偵察機の一団を音楽に合わせて飛行させるパフォーマンスを実施した。この「ダンシング・クアッドコプター」プロジェクトは、後によく知られたように、ドローンが音楽のテンポや特徴に合わせて自らの動きを調整し、協調することで衝突を避けるアルゴリズムを使用していた。研究者がドローンの動きを手動で制御する必要はない。シェリグの設定では、通常では結び付けられることの多い自律運転システムの2つの重要な要素、つまり、知覚と行動を切り離したのだ。その手法は、毎秒200フレームを超えるレートで複数の対象物の位置を完全に認識できる高精度のオーバーヘッド・モーションキャプチャシステムを空間の中央に配するというものだ。この外部システムにより、研究チームは飛行体の制御アルゴリズムにリソースを集中させることが可能になった。
（サイモン・パーキン）