はじめに
生成AIを日常的に使うようになって、一つの奇妙な現象について考えるようになりました。
AIに対して、やたらと攻撃的になるパターンがあります。
- 「何度言えば分かるんだ」
- 「こんなこともできないのか」
- 「時間を無駄にした」
人間の部下に向かって言えば、パワーハラスメント確定です。ところが、相手がAIになると、これらの言葉を平然と投げつけることができてしまう。
ここで改めて言うのは、AIは人間ではないという厳然たる事実です。現在の生成AIが人間と同じように屈辱を感じたり、傷ついたりするという確かな根拠はありません。
そこで2つ問いを出します。
- 「AIに何を言っても構わないのか？」
- 「なぜ人間は、相手がAIだと認識した途端、自分の攻撃性に対するブレーキを緩めてしまうのか」
そして、もう1つ。
- 「そのとき発した言葉は、本当に何も残さず消えていくのか？」
……3つでした。（そこで流れる不快なジングルと『Nobody Expects the Spanish Inquisition!』）
対話型AIは反撃してこない
人間同士のコミュニケーションでの攻撃や威圧行動はほぼリスクがあります。
- 相手を怒鳴る
- 侮辱する
- 物理的攻撃
これらが明るみに出た場合
- リアルファイト
- ポリス沙汰
- ジャッジメントタイム
などがあります。相手にも意思があり、反撃する能力があり、自分の行動には結果が伴います。
この、反撃される、戦いに巻き込まれる、或いは社会や法の裁きを受ける。そうした認識が、人間の行動を制御しています。
ところが、AIにはそのような反撃能力がありません。どれだけ罵倒しても、AIが腹を立てて机を叩くことはありません。翌日から口を利かなくなることもありません。人事部や労基に駆け込んだり当局に通報すると言うこともありません。
さらに、現在の対話型AIは、多くの場合、利用者の要求に応じるよう設計されています。
こちらが攻撃的になっても、謝罪し、説明をやり直し、次の指示を待つ。ここには極めて特殊な関係が成立します。
自分は相手に何を言ってもよい。しかし、相手は自分に対して攻撃的にならない。
現実の人間関係では、かなり危険な非対称性です。
相手が人間ではないという免罪符
この非対称性、一つの認知バイアスが働いているのではないかと考えました。
「相手は人間ではないのだから、何を言っても問題ない」
というものです。AIには人間と同じ人格権が認められているわけではありませんし、AIに対する厳しい言葉が、そのまま人間に対するハラスメントと同じ被害を生むわけでもありません。
ここには論理の飛躍があります。
相手が傷つかないことと、自分がどのように振る舞ってもよいことは、同じではありません。
誰もいない部屋で怒鳴り散らすことは自由です。しかし、毎日のように怒鳴り散らしている人が、その習慣を職場や家庭に一切持ち込まないと言い切れるでしょうか。
ここで考えたいのは、他人に対する影響だけではありません。もっと直接的な問題があります。
その言葉を発した本人は、その言葉を聞いているのです。
自分の言葉は、確実に自分に返ってくる
祖母は生前、「人を呪わば穴二つ」と言いました。「天に向かってつばを吐く」という言い方もあります。
こうした言葉を聞くと、因果応報や道徳的な戒めを連想するかもしれません。
筆者が考えているのは、もっと単純なことです。
自分が発した言葉を、自分自身が知っている。
という厳然たる事実です。
誰かを罵倒したとします。その相手が人間であれば、
- リアルファイト
- ポリス沙汰
- ジャッジメント（ry
は状況によっては起きえます。相手がAIであれば、そうした反応はまず起きないでしょう。
では、何も起こらなかったのでしょうか。それに対しては、この回答があります。
その言葉を選び、その言葉を打ち込み、相手に投げつけた自分自身がいます。
他人が知らなくても、自分は知っています。誰からも非難されなくても、自分が何を言ったのかは、自分自身が知っています。
発した言葉の一つ一つを、いつまでも正確に覚えているわけではないし、言ったことを忘れる。言ってしまえばすっきりするパターンは数多くあります。
それでも、どのような場面で、どのような言葉を使うことを自分に許したのか。その経験が、自分の振る舞いに何の影響も与えないと考えるのは、少々楽観的ではないでしょうか。
誰にも聞かれていないと思っていた言葉にも、聞き手が一人だけいます。自分自身です。
AIが傷つかないからといって、自分の言葉まで無かったことにはなりません。
自分の言葉から、最後まで逃げられないのは自分自身なのです。
祖母の教え
ここで、祖母から教わった言葉を思い出します。
言い間違いは聞き手の責任。聞き間違いは言い手の責任。
少々奇妙な言葉に感じられるかもしれません。普通に考えれば、言い間違えたのは話した人の責任であり、聞き間違えたのは聞いた人の責任でしょう。
祖母の教えは逆です。これは、単に責任の所在を逆転させているのではありません。
- 言い間違いを聞いたのであれば、聞き手が相手の意図をくみ取ろうとする。
- 聞き間違いが起きたのであれば、言い手が伝え方を見直す。
つまり、コミュニケーションがうまくいかなかったとき、自分に何ができるかを考えるという教えです。
この言葉を、AIとの対話に当てはめてみます。AIがこちらの指示を取り違えたとします。
そのとき、利用者には2つの選択肢があります。
- 「なぜ分からないんだ」と怒鳴ること。
- 「自分の指示には、どのような曖昧さがあったのか」と考えること。
そして、
- その物言いをそのまま信用して「恥をかいた」と後で糾弾すること。
……またしても3つでした。（やっぱり流れる不快なジングルと赤い僧衣の3人組が発する『Nobody Expects the Spanish Inquisition!』）
- 「AIが悪い」と断じて終わるのか。
- 「どうすれば、次は同じ間違いを避けられるのか」と考えるのか。
祖母の言葉は、責任を一方的に引き受けろという意味ではなく、自分が制御できる部分まで相手の責任にしてはいけないという教えなのだと思います。
なぜ期待を裏切られると怒るのか
生成AIは、驚くほど自然な文章を返します。
- 複雑な質問に答え
- プログラムを書き
- 文章を推敲し
- ときには専門家のような口調で助言します。
(というか、この記事の推敲そのものもAIの力を借りています)そうなると利用者は次第に錯覚します。
「これだけできるのだから、当然、これもできるはずだ」
しかし、生成AIは間違えます。存在しない情報をもっともらしく説明することもあれば、明確な指示を取り違えることもあります。
前の回答と矛盾する回答を、平然と提示する場合さえあります。その瞬間、期待は失望へと変わります。
- 「さっきまでできていたのに」
- 「なぜこんな簡単なことが分からない」
- 「こちらの時間を返してほしい」
実際、AIの誤回答によって作業時間を浪費したり、成果物を壊されたりすることはあります。
私自身、AIを利用したサーバの更新作業で、ファイルが消失するという経験をしました。これは単なる誤字脱字や、ちょっとした勘違いとは次元が違います。
実害が生じた以上、原因を追及し、再発防止策を考えなければなりません。
しかし、そこでAIを罵倒したところで、失われたファイルが戻ってくるわけではありません。
むしろ、必要なのは事実の確認です。
- 何を実行したのか。
- どこで判断を誤ったのか。
- どの段階で作業を止めるべきだったのか。
そして、AIの提案を採用し、実際に作業を進めた自分自身の判断はどうだったのか。
ここでも、祖母の教えが生きてきます。相手の間違いを指摘することと、自分の責任を考えることは、両立します。
責任を追及することと、怒りをぶつけることは、まったく別の行為です。
擬人化と道具扱いの都合のよい使い分け
ここで、さらに奇妙な矛盾が生まれます。人間は、AIが自然に会話しているときには、AIを人間のように扱います。
- 「理解してくれた」
- 「気が利く」
- 「相談相手になる」
ところが、AIが間違えた瞬間には、道具として扱います。
- 「機械のくせに」
- 「金を払っているのに」
- 「使えない」
これは、かなり都合のよい認識の切り替えです。期待するときには人間並みの理解力を要求し、責任を問うときには機械として扱う。
そして、攻撃するときには、相手が人間ではないことを理由に遠慮をなくす。道具であることを理由に、自分の感情を無制限にぶつけてよいという結論にはなりません。
ハンマーが釘をうまく打てなかったとしても、ハンマーに説教を始める人は普通いません。
ところが、ハンマーが流暢な日本語で謝罪し始めたら、途端に説教したくなる。
生成AIが作り出したのは、そんな奇妙な状況なのかもしれません。
AIへの態度は、自分自身への態度でもある
ここまで考えると、最初の問いに戻ります。
なぜ人はAIにハラスメントをしてしまうのか。筆者は2つほど考えます。
仮説1つめは、反撃されない相手に対して、人間が普段抑えている攻撃性を表出させやすくなるからです。
仮説2つめは、AIを人間のように認識する一方で、人間として尊重する必要はないと判断してしまうからです。
そして3つ目は、AIの能力に対する過剰な期待が、失敗したときの怒りを増幅させるからです。
……（やっぱり流れる不快なジングルと赤い僧衣の3人組がドアを蹴破りながら乱入して発する『Nobody Expects the Spanish Inquisition!』）
忘れてはいけないこと：終わりに変えて
自分の言葉が自分自身に返ってくることを、忘れているのではないか。
AIに対して攻撃的な言葉を使うことが、必ずしも人間への攻撃性を高めるとは限りませんが、自分がその言葉を発したという事実は変わりません。
それを正当化するのか。後悔するのか。次は違う言葉を選ぼうと考えるのか。
いずれにせよ、そこには自分自身の判断があります。さらに、どんな耳障りのいい意見を聞いたからとして、それを崇めたとしても、罵倒したとしても、最終的な結果の責任は、判断を下した自分にあります。
再掲しますが『HELLSING』でアーカードの言う
銃は私が構えよう。照準も私が定めよう
弾を弾装に入れ遊底を引き安全装置も私が外そう
だが
殺すのはおまえの殺意だ
です。とはいえ、祖母の教えに立ち返れば、コミュニケーションの失敗をすべて相手の責任にする必要もありません。
なので、3つほど答えを出します。
- AIが間違えたのであれば、間違いを指摘する。
- 自分の指示が曖昧だったのであれば、指示を修正する。
- AIの能力では実現できないのであれば、別の手段を選ぶ。
怒鳴ったところでAIの能力が向上するわけではありません。時間は返ってきません。ですが、失った時間で学ぶことはある。
未来の筆者へ
AIにバチ切れた時、筆者はこの文章を書いたという事実をどっかで覚えているはずです。
さて、改めて述べます。人に言ったら
- リアルファイト
- ポリス沙汰
- ジャッ(ry
になり得ることを、AIに対して言いましたか？ そう、その答えは筆者自身が知っていますよね。
正当な怒りを持っていることと、その怒りを使って何をしてもよいことは違いますよね？
それさえ悟っていただければ、この記事を書いた筆者は満足です。