2018年発表の本書は、プロ棋士王九段がAI囲碁について、開発に携わったこともある棋士の立場で、その本質を記したもの。台湾出身の筆者は13歳から日本で暮らし、剛腕の異名をとったこともあると記憶している。
自身の棋風を「ゾーンプレス型」、局地の戦いに拘らず大局を常に見ていて、着手も全て「確率計算」で決めていたという。これがAIソフトの開発にも生きたらしい。何しろAIは、常に盤面全部を見ることができるのだから。「アルファ碁」が中韓のTOP棋士を破って、一気に注目を集めた囲碁界では、AIについての議論が巻き起こり、他の分野での参考になると思う。
AIは自分の決定を説明できないので、人間による翻訳が必要（説明責任？）との説については、
・機械の振る舞いは人間が全て把握するのが当然
・人間の振る舞いは、他の人間が完全に理解できる
ことを前提としていて、筆者はこれを「人間の傲慢」なのではないかという。
一方、AIにも欠点はあって、
◆水平線効果
さすがに読める範囲には限界があって、その範囲内で都合の悪い局面が避けられないとなると「正しい手」も評価が低くなって、悪手を選びかねない。
◆過学習
同じデータで過度の学習を行った結果、未学習の問いに正しい答えを出力できなくなる。例えば「神の一手」というものは、産み出しにくい。
だという。初期のAIは、ポリシーネットワークが選択肢を示し、バリューネットワークが評価を下すのだが、現在では両者が一体化している。人間に難しかった、
１）局面の確率判断
２）候補手の提示
３）結果の整理
が容易になった。現在NHKの囲碁番組では、１）２）をリアルタイムで視聴者が見ることができる。
面白かったのは「アルファ碁」の開発元ディープマインド社は、グーグル傘下に入るにあたり倫理委員会を設けることを条件としていたとあります。"Ethics of AI"は必ずしも欧州委員会発と言うわけではなかったのですね。
