AIが間違えたときの責任

AIシステムが損害を引き起こしたとき――お金を失わせる悪い推奨、誰かを傷つける欠陥のある出力、人生を損なう差別的な判断――難しい問いが続きます。誰が責任を負うのか。直感的な答え「AIが」は袋小路です。モデルは人ではありません。責任を問えず、意図を持てず、支払えません。ですから責任は、人間の誰か、あるいは何らかの組織に着地しなければならず、それが誰かを突き止めることがAI責任の核心です。本稿はその推論がどう働くかを平易に解説します。これは一般的な情報であって法的助言ではなく、具体的な点は場所と状況によって異なります。

なぜ「AIがやった」は何も解決しないのか

システム自体を責める本能は理解できますが無益です。責任は実務的な働きをするために存在します。損害を受けた者を補償し、不注意な行動を抑止し、間違いのコストを、それを防ぐのに最も適した者に割り当てるためです。モデルはそのどれもできません。資産も、義務も、抑止される能力も持ちません。

ですから損害が起きたとき、本当の問いは、連鎖の中のどの「人間のアクターまたは組織」が責任を負うのか、です。AIシステムの存在は説明責任を溶かしはしません。ただ、それを突き止めるのを難しくするだけです。過程に関わる手が多く、それぞれが他を指さしうるからです。AI責任の仕事は、その拡散を切り抜けて責任者を見つけることです。

ありうる責任の連鎖

AIシステムの作成と、それが引き起こす損害の間には、いくつかの当事者が関与し、何が悪かったかによってそのどれもが責任を負いうります。

• 開発者――モデルを構築し訓練した者。
• デプロイ者――それを製品やサービスに統合し、人々の前に出した企業。
• 運用者またはユーザー――特定のタスクに、おそらく意図された範囲外で、それを使うことを選んだ者。
• データ提供者――そのデータがシステムの挙動を形作った者。

損害が単一のつながりにたどれることはまれです。開発段階で欠陥があり、十分なテストなしにデプロイされ、本来意図されなかったことに使われたモデルは、過失を連鎖全体に分散させます。難しさの多く――そして契約や紛争での交渉の多く――は、これらの当事者の間で責任を按分することにあります。

既存の法的概念がたいてい先に適用される

よくある誤解は、AIの損害にはまったく新しい法律が必要だというものです。多くの場合、そうではありません。長年確立されてきた法的概念が、すでにAIの挙動の多くに届いており、それらが最初に適用される道具になりがちです。

過失――合理的な注意を払わなかったこと――のような概念は、システムを不注意にデプロイした企業に適用できます。製品関連の責任は、製品として販売されたものが欠陥を持つと判明したときに適用できます。差別禁止の義務は、人間が生んだか、モデルが生んだかに関わらず、偏った結果に適用されます。契約条項は、企業間で何が約束されたかを規律します。一貫した筋は、損害はしばしば既存法の下でも損害であり、AIの関与が免責を与えはしないということです。法律がAIのために特に進化する場合でも、たいていはゼロから始めるのではなく、これらおなじみの概念を適応させます。

何がAI責任を本当に難しくするのか

既存の概念が適用されるなら、なぜこれが現に問題なのでしょうか。AIが、それらの概念が立脚するいくつかの前提に負荷をかけるからです。

• 不透明性。 責任はしばしば、何がなぜ悪かったかを示すことにかかっています。システムの推論を検査しにくいとき、損害の原因を証明することは関係者全員にとって難しくなります。
• 自律性。 システムが独立して動くほど、結果を特定の人間の選択に結びつけるのが難しくなります――判断と結果の間のつながりが引き伸ばされるのです。
• 拡散。 多くの当事者が寄与すると、それぞれがもっともらしく他を責められ、割合の割り当てが厄介になります。
• 予見可能性。 責任はしばしば、損害が予見可能だったかどうかにかかっています。予想外の振る舞いをするシステムは、誰が何を予期すべきだったかという問いを複雑にします。

これらは説明責任が消える理由ではありません。それが争われる理由であり、なぜ綿密な文書化とテストがこれほど重要かの理由です――それらこそ、責任をどちらかに証明可能にするものであることが多いのです。

責任が事前にどう割り当てられるか

現実のAI責任の多くは、損害が起きる前に、意図的な割り当てを通じて決着しています。企業は契約を使って、誰がどのリスクを負うかを決めます――開発者、デプロイ者、ユーザーの間で責任を移す保証、免責条項、補償です。保険は、実際に起きる損害のコストを分散します。利用規約は、エンドユーザーに対する提供者のエクスポージャーを定義し制限しようとします。

これが、「誰が責任を負うのか」という問いに、法的な答えの上に契約的な答えが重なることが多い理由です。2つの企業は、限度内で、システムが失敗したときに誰がコストを吸収するかを合意できます。その限度――どの免責条項が実際に通用し、何が契約で放棄できないか――こそ、有資格の法的助言が真価を発揮する場所であり、軽率に置かれた前提が高くつく場所です。

AIをデプロイする誰にとっても実践的な教訓

弁護可能に振る舞うために、あらゆる法的結果を予測する必要はありません。いくつかの原則が、実際の損害とエクスポージャーの両方を減らします。

• 使い方をシステムの意図された範囲に合わせる。 設計されていないことにツールを使うのは、責任者になる近道です。
• 重大な判断に人間を関与させ続ける。 賭け金の高い結果への意味ある人間の監督は、損害を防ぎ、説明責任を明確にします。
• テストと判断を文書化する。 注意義務の記録こそ、何かがうまくいかなかったときに責任を決めることがよくあります。
• 契約と規約を読む。 システムに頼る前に――後ではなく――何を受け入れ、何を約束したかを知っておくこと。
• 賭け金の高い用途には本物の助言を得る。 深刻な損害がありうる場合、有資格の法律顧問は責任ある実施の一部です。

まとめ

AIが損害を引き起こしたとき、「AIがやった」は決して答えになりません。モデルは責任を負えず――人間か組織が負わなければならないからです。その当事者を突き止めるとは、開発者からデプロイ者、ユーザーへと連鎖をたどり、たいていすでに存在する法的概念を適用し、AIを本当に難しくするもの――不透明性、自律性、過失の拡散、不確かな予見可能性――を解きほぐすことを意味します。実務では、責任の多くは契約、保険、規約を通じて事前に割り当てられます。持続する教訓は、システムを意図された範囲内で使い、賭け金の高いループに人間を残し、注意義務を文書化し、損害が深刻になりうる場合は有資格の助言を得ることです。機械が関与したからといって説明責任は消えません――ただ、それを見つけるのにより多くの注意が要るだけです。本記事は一般的な情報であって法的助言ではありません。具体的な状況については、有資格の弁護士にご相談ください。