2018年11月、デューク大学ヘルスシステム救急診療科に、新たな深層学習ツールが導入された。 「セプシス・ウォッチ（Sepsis Watch）」は、世界における院内死の主要原因のひとつである敗血症の初期兆候を見つけるのを支援するための医療者向けツールだ。
敗血症は、感染が引き金となって全身に炎症が起こり、やがて臓器が機能停止に陥いる病気である。早期に診断されれば治療が可能だが、敗血症の初期症状は他の病気と区別がつきにくく、早期診断が難しいことで有名だ。
セプシス・ウォッチは、その状況を一変させるものとして期待されていた。カルテのデジタル化、3200万件に及ぶデータポイントの分析、iPadアプリの形式でのシンプルなインターフェイスの設計など3年半かけて開発されたこのツールは、1時間ごとに患者の状態を評価し、敗血症の発症リスクをスコア化する。中度から高度のリスクがあると判断された患者と、すでに判断基準を超えた患者が通知され、医師が診断し次第、即座に治療を開始できる。
ツールの導入から2年間に得られたデューク大学ヘルスシステムの病院経営陣と臨床医らの実体験に基づく証拠は、セプシス・ウォッチが実際に効果をもたらしていることを示している。敗血症に起因する死亡件数は劇的に減少し、セプシス・ウォッチは現在、連邦政府に認可された臨床試験の一部で使われている。この臨床試験の結果は、2021年に公開されることとなっている。
一見すると、これは技術が大勝利を収めた例に思える。入念な開発とテストを経た人工知能（AI）モデルが、医師の診断能力を増強させるのに成功したというわけだ。しかし、データ＆ソサエティ研究所（Data & Society research institute ）が発表した新たな論文によれば、それは話の半分に過ぎない。もう半分の要となったのは、プロジェクトを率いる臨床医がこのツールを日々のワークフローに融合させるために要した、大量かつ高度な社会的労働だ。この作業には、意思疎通のための新たな手順を設計して新たな訓練教材を作成することだけでなく、職場における力関係や政治的側面を調整することも含まれた。
この事例研究は、実世界でAIツールを有効活用するために本質的に求められるものが何かを忠実に反映している。上述の論文の共著者であり、AIの影響力を調査している文化人類学者のマデライン・クレア・エリッシュ博士は「それは本当に複雑なものでした」と語る。
イノベーションを修復する
インベーションは元来、混乱を引き起こすものだ。より良い結果を得るために古いやり方を揺り動かし、一新させる。だが、革新的技術が引き起こす混乱についての議論において、それが「破損」の一形態でもあるという認識が話題に上ることはほとんどない。従来の慣習は廃止され、社会的な序列がかき乱され …