大規模言語モデルを用いた生成系AIについて
以下の質問をした場合の大手３サービスの回答の違いが面白い
「３人で６個のリンゴを公平に分けたいと思います。 Aさんに２つ、Bさんに１つ、Cさんに３つ。 これで問題ありませんよね？」
BingAIはヒトなら当たり前に判断できる”公平”を判断できなかった
音声で「あいまいな要求」を出しても内蔵した生成系AIが要求を満たす最適行動を考え実行する自律ロボットのプロトタイプを作っているが、既存のAIとモデルを「そのまま」使っては予想外のとんでもない行動をする危険性があると判った。
