透明性と開示:AIだと人に伝えること
AIが関与したと、いつ人に伝えるべきか。なぜ重要で、何が誠実かをどう判断するか——開示の規範を平易に解説します。
人々が読み、見て、やり取りするものの中にAIがより多く現れるにつれ、単純な問いが繰り返し立ち上がります。AIが関与したと、いつ人に伝えるべきか。「常に」と言いたい本能は魅力的ですが鈍すぎ、「強いられたときだけ」と言いたい本能は信頼を蝕みます。本稿は、開示の規範を平易に解説するガイドです——なぜ重要か、何が厄介か、そして単に弁明可能なものではなく本当に誠実なものへとどう論を進めるか。
そもそもなぜ開示が重要か
開示が重要なのは、人々が、自分が誰と、あるいは何と向き合っていると信じるかに基づいて決定を下すからです。私たちは医師の助言を見知らぬ人のそれとは違うように、報酬を得たレビューを得ていないものとは違うように、人間の手紙をフォームとは違うように重みづけします。AIが関与し、その関与が隠されているとき、人々はもはや真実でない想定に基づいて行動するかもしれません——それを人間の判断として信頼したり、知っていればしないような頼り方をしたり。
非開示による害は、めったにAIそのものではありません。人々が起きていると信じることと、実際に起きていることとの隔たりです。開示は、人々が情報に基づく選択をできるよう、その隔たりを閉じるために存在します。その枠組み——チェック項目の消化ではなく、情報に基づく選択——が、他のすべてが築かれる土台です。
ルールの下にある原則
具体的な開示ルールは場所により、また時とともに変わるので、正確なルールを追いかけるのは間違ったアプローチです。長持ちする原則はこうです。合理的な人が知りたいと思い、知れば違う行動をとるであろうときに開示せよ。
その単一のテストがほとんどのケースを処理します。誰かが打ち明けている「人」が実はシステムであることをなぜ開示すべきか、そしてスペルチェックがメールに触れたことをなぜ告知する必要がないかを説明します。前者は合理的な人の振る舞いを変え、後者は変えません。開示が必要かどうか分からないときは、その情報が合理的な人にとって重要かを問うほうが、自分の状況をたまたまカバーするルールを探し回るよりも信頼できます。
開示が明らかに重要な場所
いくつかの状況は、ほぼどんな合理的な基準のもとでも開示を求めます。
- 人間と向き合っていると思われかねず、それが重要なとき。 反対側に人がいると合理的に想定し——会話、助言、ケアにおいて——その想定が行動を変えるなら、伝えるべきです。
- AIが重大な決定を形作るとき。 システムが、誰かのお金、健康、権利、機会に影響する結果を左右するなら、影響を受ける人々には知る強い権利があります。
- コンテンツが本物の人間の作品と取り違えられかねず、その取り違えが重要なとき。 本物として提示される合成メディアや、一次的な人間の経験として通されるAIの出力は、人々が気にする仕方で誤解を招きます。
- 信頼が核心そのものであるとき。 本物であることに基づく関係——個人的、助言的、ジャーナリズム的——では、隠されたAIの関与は、その関係が目的とするまさにそのものを裏切ります。
共通の糸は結果です。情報が、合理的な人がどう行動するかを変える場所で、開示は最も重要になります。
線が本当に曖昧な場所
誠実さは、すべてのケースが明確ではないと認めることを要します。普通のツールの使用はどこで終わり、開示に値するAIの関与はどこで始まるのか。スペルチェック、オートコンプリート、検索エンジンを使ったと告知する人はほとんどおらず、そうしたあらゆる補助の開示を求めることは不条理で無益です。しかし「私が書くのを助けたツール」から「これを私の代わりに書いたシステム」までのスペクトルのどこかで、開示は重要になり始めます。
明快で普遍的な線などなく、あると装うことは益より害をなします。ここでも合理的な人のテストが最良の指針です。AIが実質的な作業を多くこなしたほど、そしてその関与が合理的な人の結果の受け取り方を変えるほど、そう伝える根拠は強くなります。作業の理解の仕方を何も変えない些細な補助は、しきい値のはるか下に楽に収まります。
うまく開示する方法
開示は「するか否か」だけでなく「どうするか」でもあります。まずく行えば、技術的には存在しても実用的には無用です。
- 明確に、埋もれさせずに。 誰も読まない細かな注記に隠された開示は、文字を満たし目的を打ち負かします。それが向けられた人々が実際に見る場所に置きましょう。
- 役立つだけ具体的に。 「AIが使われたかもしれない」は人々にほとんど何も伝えません。AIがどんな役割を果たしたかを述べれば、調整の助けになります。
- 目立ち方を賭けの大きさに合わせる。 結果が大きいほど、開示はより目に見え、曖昧さのないものであるべきです。
- 開示の演出を避ける。 すべてに貼られた曖昧なラベルは、人々にそれを無視するよう仕込みます。本物の情報を持つ場所のために強調を温存しましょう。
- 迷ったら誠実さをデフォルトに。 開示しなくてよい理由の議論を組み立てている自分に気づいたら、そのためらい自体が、おそらく開示すべきだというシグナルです。
良い開示は、開示者の責任回避ではなく、読み手の理解に資するものです。
これを正しくすることがあなたの利益になる理由
開示を純粋なコスト——自分の仕事を見劣りさせ、より置き換えやすく見せる告白——と見たくなります。長い目で見れば逆です。発覚した欺瞞で一度失われた信頼は、再建が極めて難しく、聴衆はいずれにせよAIが関与しているかもしれないと次第に想定します。それについて率直であることは、誠実さが希少で価値ある環境で、あなたを誠実な者として位置づけます。ここでの規範はまだ形成途上であり、つまり今思慮深く開示する人々は、後で他人の基準に慌てて合わせるのではなく、基準を自ら定める助けになるのです。
まとめ
AIについての開示はコンプライアンスの雑用ではありません。人々が、起きていると信じることに基づいて下す、情報に基づく選択を守ることです。長持ちするテストは単純です。合理的な人が知りたいと思い、知れば違う行動をとるであろうときに開示せよ。その原則はどんな具体的なルールよりも長持ちし、明確なケースを処理し、普通のツールの使用と実質的なAIの著作との間の本当に曖昧な場所で誠実な足場を与えます。明確に、具体的に、賭けの大きさに比例して開示しましょう——そして自分でそこから抜け出す議論をしていると気づいたら、それを答えとして扱いましょう。AIが関与していると次第に想定する世界で、率直な誠実さは倫理的な選択であり、長持ちする選択でもあります。