本書は、桜美林大学メディアアーツ学部の平和博教授の「Chat GPTの考察」。2023年１～５月に公表された著者のブログを再編集したものだ。著者はGPT2.0のころからの生成AIの発展を見てきて、GPT3.5から4.0への飛躍に驚いている。性能が向上しただけでなく、ブームが起きてユーザが急増している（*1）からだ。
筆者は教育現場に入り込んできている生成AIについて、以下のことを気を付けているとある。
・教員として仕組みを理解する
・メリット、デメリット、制限事項を説明する
・剽窃禁止ルールに生成AIを加える
・生成AIテキストの見分け方も教える
・コンテンツ検知ソフトの使い方も教える
・提出レポートの内容について口頭試問を行って確認する
そして、あくまでこれは「今」の対策であって、技術進歩によって不断に見直すべきということらしい。進化したとはいえGPT4.0は、
・思考しているわけではなく、データを（高速・大量に）整理しているだけ
・なぜそうなのかの「説明」をすることはできていない（*2）
・意識を持ったり知性を備えたわけではない
とある。
また、生成AIへの危惧が列挙され、ある程度整理されている。
・個人情報を悪用されてのプライバシー侵害
・プロンプト入力なども含め企業秘密漏えい
・ホワイトカラー中心に雇用が失われる
・世論などが捏造される
・著作権侵害と偽物の氾濫
などがあるが、生成AIのコンテンツをそうだと見抜くことは、かなり難しい。学術論文を書かせてみたところ、査読者が一人も気付かなかったとある。ある論文では、ご丁寧に参考文献まで捏造していた。生成AIは意図せず「幻覚」を見ることもある。GPT4.0の基になったデータは非公表で、使われていると推定されたデータ群には誤りも認められた。
２年ほど前の記事ですが、もうポピュラーになったり状況が変わっていることもありました。この世界変化が激しいですから。
*1：発表から２ヵ月で１億ユーザ突破、TikTokですら９ヵ月かかっているのに
*2：これが信頼できるAIのこと 息の合った「AI禅問答」（後編） - 梶浦敏範【公式】ブログ
