ここ最近、生成AIサービスを使う人が増えましたが、問題も起きています。インターネット普及前、情報は主に書籍から得ていました。一般的に出版物は複数の人間が内容を確認しているため、嘘や間違いがほぼありません。
生成AIが導き出す「正解のような間違い」のリスク
一方、生成AIはインターネット上にある情報を取捨選択しますので、個人のブログからフェイクサイトまでが情報源となり、回答がズレることがあります。とあるお客様からのお問合せです。
実例：AIの回答に固執し、噛み合わないトラブル解決の現場
「WordPressで稼動しているWebサイトを改修したら、403エラーという画面が表示されます。これはサーバーの問題ですので、私の通信を遮断していないか管理者に確認してください」
エラーコードが示す真実と、AIが読み飛ばした「文脈」
ブラウザ上でエラーコードが表示されるなら、通信そのものはサーバーに到達しています。その旨を回答すると、「ファイアウォールで通信を遮断していないか確認してください」と返答。ファイアウォールでの通信遮断なら「接続できません」と表示されるので、プログラムや設定によるエラーと思われます。そのことを詳しく説明すると、「以上の経緯により、通信が遮断されているため、サーバー管理者に解除を依頼します」との返答。
情報リテラシーとは「最後は人間が判断する」こと
多分、生成AIで調べているのでしょう。会話が堂々巡りで進んでいないことがおわかりと思います。対策が適切か否かは最後は人間が判断すべきでしょうし、それには状況や経緯を考慮する必要があります。AIが常に隣で人の一挙一動を把握していれば別かもしれませんが、目の前のことだけを聞くと、経緯が異なる似た事象が回答になり得るのです。
情報リテラシーが試される時代に突入したようです。
