AIはもっともらしく間違える。では、何を信じればよいのか
前回の記事では、私にとって生成AIは「何でもよく知っていて、仕事が早いパートナー」になったと書きました。
今回は、そのパートナーとの付き合い方について書いてみたいと思います。
AIは最初から「間違えることがあります」と言っている
ChatGPTをはじめ、多くの生成AIを使っていると、画面の下に小さな文字が表示されています。
「回答は必ずしも正しいとは限りません。重要な情報は確認してください。」
あるAIでは、
「AIであり、間違えることがあります。」
「AIのため、誤りを含む可能性があります。引用元は必ず確認してください。」
と書かれています。
本文では自信満々に答えているのに、最後には「間違っているかもしれません」と書いてある。
最初は少し不思議に思いました。
もし会社で、
「たぶん合っています。でも間違っているかもしれません。」
という報告を受けたら、
「確認してから報告してください。」
と言いたくなるでしょう。
ところが、生成AIではそれが当たり前です。
少しおかしな話ですが、これが現実です。
私もAIに一本取られました
長期出張の宿泊先を探していたときのことです。
荷物はできるだけ少なくしたい。
そこで、
- 下着類はホテルで洗濯する
- ワイシャツはホテルのクリーニングサービスを利用する
という前提で宿泊先を探していました。
生成AIと壁打ちをしながら条件を整理していく中で、「洗濯環境」が重要な判断ポイントであることに気付きました。
これは自分一人では思いつかなかった視点です。
AIが提案してくれたホテルのコインランドリーは、とても魅力的でした。
洗濯機は無料で使え、料金が必要なのは乾燥機だけ。
設置台数も多く、ホテルのホームページから空き状況まで確認できます。
他のホテルも調べましたが、
- 洗濯も乾燥も有料
- 洗剤が別料金
- 現地へ行かないと空いているか分からない
というところがほとんどでした。
この点については、AIの提案は本当に素晴らしかったと思います。
ところが、もう一つ重要な条件だった「クリーニングサービス」が違いました。
現地でフロントにお願いすると、
「申し訳ありません。クリーニングサービスは、ずっと前から行っていません。」
とのこと。
AIは「利用できます」と答えていましたが、実際にはサービスそのものが終了していたのです。
思わず、
「一本取られたな。」
と苦笑いしました。
AIに文句を言っても始まらない
この出来事で改めて思ったことがあります。
生成AIに文句を言っても仕方がありません。
なぜなら、最初から
「重要な情報は確認してください。」
「間違えることがあります。」
と、自分で言っているからです。
つまり、生成AIは「絶対に正しい答え」を保証するものではありません。
一方で、「洗濯環境」という重要な視点を整理し、条件を比較して、より良い選択肢を見つけることについては、とても役に立ちました。
得意なことは非常に得意。
苦手なことは、まだ苦手。
それを理解して付き合うことが大切なのだと思います。
最後に決めるのは自分
生成AIは、考える材料をたくさん出してくれます。
情報も集めてくれます。
比較もしてくれます。
議論の相手にもなってくれます。
しかし、最終的に、
「この情報を採用する。」
「このホテルに泊まる。」
「この企画で進める。」
そう決めるのは、自分自身です。
これは生成AIがどれだけ進化しても変わらないでしょう。
私は、生成AIを「答えをくれる機械」とは思っていません。
考える材料を整理し、一緒に議論してくれるパートナーです。
だから、生成AIが間違えたとしても、それほど腹は立ちません。
「そうだったね。じゃあ確認しよう。」
それくらいの距離感がちょうどいいのです。
生成AIは、最初から「間違えることがあります」と教えてくれています。
だから私は、その前提を受け入れた上で、これからも仕事のパートナーとして付き合っていこうと思っています。