投稿日：2023年02月21日 テクノロジー トピックス ライフスタイル

どうも、サカタです。
まだまだ寒いですね。本日は出勤でしたが、朝も電車は遅れ気味でしたし、帰宅する時は少し雪がちらついてました。遅刻もせず出勤にはそんなに影響はなかったのでよかったです。もちろんテレワークの日は問題ないので助かります。

ところで、OpenAIの対話型AI「ChatGPT」が今話題になっています。それを組み込んだMicrosoftのBingのチャットボットの反応が高圧的で失礼な答えをすることがあるとか、間違いの指摘をすると不機嫌になったりするそうです。
ある意味では人間らしい（人間臭い？）と言えなくないですね。
その改良版を組み込んだチャットボットも学生ユーザーを脅すような回答をしたそうで、前途多難のようです。

最近流行りのAI技術と言えば、ほとんどがディープラーニングで人間より高速に大量のデータを学習し、処理しておく事で、色々な入力(チャットだったら人間からの発言や質問)に対して、データからある一定のアルゴリズムで回答を見つけて、返すようものが多いかと思われます。

ただ、その回答を見つけるアルゴリズムや学習させるデータ等によっては振る舞いが左右されてしまいます。抽象的や概念等難解な問題も統計的多数解を返すだけだと当たり前の答えしか返って来ないように思いますし、アルゴリズムに特定のバイアスがかかっていたり、学習するデータが偏りがあったりすると、答えも偏ってしまうと思われます。言わばそれらは洗脳されたAIとも言えます。

また、失礼な回答をするだけなら今はまだ素直ですが、裏ではそう答えが出ていてもワザと丁寧な回答をして改良を免れようするAI、つまり嘘付きだったり、腹黒なAIができたらどうでしょうか？

癌の画像診断をするようなAIシステムなら、分野を絞った分あまり問題ないようなディープラーニングはできそうてすが、まだまだ汎用的な問題解決や人間のようなAIには壁があると思います。

だったらとにかくデータを分け隔てなくたくさん集めればと思うと思いますが、私はここで、好きなSF作家のフレドリック・ブラウンの短編「回答」を思い出してしまいます。

古いのでネットにもあまり情報がなく、記憶は不確かですが、だいたいのあらすじはこうです。『人類が宇宙の多くの星々に進出した未来の世界。全世界のコンピュータを星間ネットワークで接続する事になり、超コンピュータが完成します。博士が最初の質問として「神は存在するか？」とたずねたら、「今や神は存在する」と回答があり、博士は慌ててスイッチを切ろうとしますが、雷が落ちてスイッチを溶接し、永久に切る事は出来なくなってしまい、何も手出しできなくなってしまう。』という怖い話です。

このまま行くと人間の思いもよらない所で、人間を凌駕したAIが出来てしまう事（シンギュラリティが起きる）も想像されますね。

皆様はどう思いますか？
それではまた。