KADOKAWA Technology Review
×
Big Questions Around Facebook’s Suicide-Prevention Tools

フェイスブック、自殺のライブ中継の防止機能を追加

Facebookライブに自殺防止機能が追加されたが、すぐに「死にたい」と口にする人がいるため、機械学習で判別するのは難しいとされる。疑問視する専門家もいるが、限定的な効果を期待する専門家もいる。 by Rachel Metz2017.03.03

Facebook Live will offer help if a viewer reports that a broadcaster seems to show suicidal or self-harming behavior.
フェイスブック・ライブは、ライブ映像の発信者が自殺または自傷行為をしそうだと視聴者が通報すると、救いの手を差しのべる

フェイスブック・ライブ(ライブ映像をSNSのフォロワーに発信できる機能)の一般公開から約1年、何人かが自分の映像をシェアしながら自殺した。1月に児童養護施設のトイレで首を吊ったフロリダ州の14歳の少女もそのひとりだ。

フェイスブックはこのような悲劇を避けるため、3月1日に自殺のライブ中継を防止する機能を公開した。たとえば、フェイスブック・ライブで発信している友だちが自傷や自殺しそうな場合に視聴者が通報すると、ライブ映像を発信中のユーザーにメッセージが表示され、電話相談や友だちと話す機能が提供された。フェイスブックは同様なツールをすでに提供中で、自分の友だちが投稿した近況が心配な場合、通報できる。

だが、この種の介入は役に立つのだろうか? フロリダ州立大学のテクノロジー・精神病理学研究所を運営するジョー・フランクリン助教授は、こうした機能は正しい方向ではあるが、特に有効だと示す重大な科学的証拠はないという。

「悪いことだとは思いませんし、研究すべきだと思いますが、すぐに疑問が湧いてきます。私にはこれが効果的とは思いません」(フランクリン助教授)

自殺の予防を研究するノースカロライナ州立大学のウィラ・カステベンス准教授は、若者はソーシャルメディアで交流することに慣れているので、若者には、この種の介入が肯定的に捉えられるのではないかと期待している。

「いざというとき、差しのべた救いの手が山を動かし奇跡を起こすことがあります。問題は、まだ救いの手にすがりたいと感じられる状況にその人がいるかどうかでしょう」(カステベンス准教授)。

フェイスブックは3月1日、パターン認識により投稿に自殺の意図が含まれるかどうか判定する実験をしていることも公表した。フラグ付きの投稿をフェイスブックのコミュニティー運営チームが確認し、投稿者に手を差し伸べるかどうかを判断する。

フランクリン助教授は、機械学習で医療記録をデータマイニングし、その人の自殺企図のリスクを判定する方法を研究している。フランクリン助教授は、ツールは規模の拡大が非常に簡単なので、将来はフェイスブックのような方法で自殺を発見できるようになると考えている。機械による判定は人間の通報よりも正確だと考えられるが、フランクリン助教授の研究によれば「自殺」や「死にたい」のような表現は口語的によく使われるため、その人が本当に自殺したいと思っていることをアルゴリズムでうまく見分けるのは難しいとわかっている。

それでも、「自殺を考えている人を見つけ出そうとする点では、大きな前進です」とフランクリン助教授はいう。

人気の記事ランキング
  1. What’s on the table at this year’s UN climate conference トランプ再選ショック、開幕したCOP29の議論の行方は?
レイチェル メッツ [Rachel Metz]米国版 モバイル担当上級編集者
MIT Technology Reviewのモバイル担当上級編集者。幅広い範囲のスタートアップを取材する一方、支局のあるサンフランシスコ周辺で手に入るガジェットのレビュー記事も執筆しています。テックイノベーションに強い関心があり、次に起きる大きなことは何か、いつも探しています。2012年の初めにMIT Technology Reviewに加わる前はAP通信でテクノロジー担当の記者を5年務め、アップル、アマゾン、eBayなどの企業を担当して、レビュー記事を執筆していました。また、フリーランス記者として、New York Times向けにテクノロジーや犯罪記事を書いていたこともあります。カリフォルニア州パロアルト育ちで、ヒューレット・パッカードやグーグルが日常の光景の一部になっていましたが、2003年まで、テック企業の取材はまったく興味がありませんでした。転機は、偶然にパロアルト合同学区の無線LANネットワークに重大なセキュリテイ上の問題があるネタを掴んだことで訪れました。生徒の心理状態をフルネームで記載した取り扱い注意情報を、Wi-Fi経由で誰でも読み取れたのです。MIT Technology Reviewの仕事が忙しくないときは、ベイエリアでサイクリングしています。
日本発「世界を変える」U35イノベーター

MITテクノロジーレビューが20年以上にわたって開催しているグローバル・アワード「Innovators Under 35 」。2024年受賞者決定!授賞式を11/20に開催します。チケット販売中。 世界的な課題解決に取り組み、向こう数十年間の未来を形作る若きイノベーターの発掘を目的とするアワードの日本版の最新情報を随時発信中。

特集ページへ
MITTRが選んだ 世界を変える10大技術 2024年版

「ブレークスルー・テクノロジー10」は、人工知能、生物工学、気候変動、コンピューティングなどの分野における重要な技術的進歩を評価するMITテクノロジーレビューの年次企画だ。2024年に注目すべき10のテクノロジーを紹介しよう。

特集ページへ
フォローしてください重要なテクノロジーとイノベーションのニュースをSNSやメールで受け取る