2025/04/25みのつぶ短信第37回「チャットGPTの効用・悪用？」

三寒四温とは地球温暖化まえの四季の移り変わりが緩やかな頃の話で，春と秋が極端に短い（ほとんどない？）三寒四暑の昨今である．桜の花が満開（スライド1：ビデオは阪大吹田キャンパスのさくら通り）を経て散り始めた４月１３日，米国ラスベガスに発った．American Council on Science and Education[1] が主催する国際会議International Conference on the AI Revolution: Research, Ethics, and Society (AIR-RES 2025)[2]に論文発表のためである．発表タイトルは「Advancing Cognitive Developmental Robotics: Robot Pain as a Bridge from Embodiment to Societal Interaction - A Framework for Ethical and Societal Integration」（スライド2）でこれは，JST RISTEX RInCA (Responsible Innovation with Conscience and Agility) [3] プログラムで推進している研究プロジェクト「「共棲ロボット」との親密な関係形成におけるELSIに関する越境型文理融合研究」（京都大学稲谷龍彦教授代表[4]）の活動の一環である．筆者はロボット倫理グループ担当である．IROSやICRAの強大な国際会議と異なり，全米をカバーする形で科学と教育に関する地についた研究発表が多く，欧州や南米などからも発表があった．論文発表は現地でin person，Zoomによる遠隔（それぞれ約60編）に加え，事前ビデオ録画発表が120編という会議で14日から16日まで開催された．

この中で2つの発表について，紹介する．一つは，初日のキーノートスピーチで，AI/ロボティクスの研究者ではなく，Springer Nature（以下，SN）の編集者，正確にはComputer Science関連のExecutive EditorのPatti Davis女史による「Artificial Intelligence in Book Publishing」と題するトークであった（スライド3）．内容は，出版における研究者からの視点，出版業界で起きたこと，SNでの実例，そして最後に，研究著者がやることとやってはいけないことで，それぞれについて説明する．Natureに掲載された論文の著者1600名以上のサーベイからの報告で，AIによる機会が脅威より優る（研究が加速される）としながらも，倫理的・法的な事項に挑戦する必要があると説く（スライド4）．ポジティブな意見（機会）としては，以下が信じられている．半数以上：AIがツールとして，重要か本質的である，66％：AIがデータ処理を高速にする，58％：計算を高速化する，55％：科学者の時間とお金をセーブする．反面ネガティブな面（脅威）として，69％：AIツールが理解なしにパタン認識により依存する傾向に導くことが可能，58％：結果がデータ内のバイアスや差別を固定化する，55％：ツールがより容易に偽物を作り出すことでできてしまう，53％：しっかり考慮されていない利用が再現不能な研究を導くことができると信じられている．スライドのイラストでポジティブな側面がやや重いが，拮抗しており，僅差である．

業界事情に関しては，

出版業界はLLMにコンテンツを販売
言語サービスが研究を拡張
研究の整合性：悪い行為や慣行の検出．ナンセンスなテキストを識別する社内で作成されたツールとRIの専門家チームの組み合わせを使用して，SNは悪質論文製造工場（paper mills）[5]からの7,400以上の論文を特定し，出版を停止できた．（実際，この特定は困難を極めているとのこと）
研究の道具：研究の集約
出版サービス：編集，コピー編集，校正．
ピアレビュー：負担・ストレスの軽減

を挙げている．

SNが本の出版に際し，提供しているAI製品とサービスに関しては，以下の６つが挙げられている．

無料の自動翻訳サービス：２６言語に対応．３日で翻訳．著者のチェック後，出版へ．
AIによる書籍デザイナー：事前に定式化されたプロンプトが質問し，回答に基づいて，ツールはAlコンテンツを作成し，その後，著者による品質チェックと承認を得て，出版へ．
AIトランスクリプション：2部構成のAlアプローチを使用して，オーディオを原稿などに変換．最初にオーディオ/ビデオを約100言語に転写し，次にAIを使用してトランスクリプトをコピー編集して原稿として使用したり，新しいコンテンツを生成するために変換．
SNで出版された研究の総まとめ：著者の研究トピックに関するすでに公開されたSNコンテンツの文献レビューの作成（AIが生成後，人がチェック）により，文献レビューの段階をスピードアップし，作業高効率化．
AIによる整合性チャック：盗作と整合性チェックし，例えば，コンテンツがGPTを介して生成されているかどうかを確認可能．
オーディオブック：原稿をスクリプトに変換し（著者がループの中にいる），最先端のテキスト読み上げ技術を使用してオーディオブックに変換可能．本を充実させ，よりアクセスしやすくする．

最後に著者が学術コミュニケーションでAIツールを使用できる方法と使用できない方法について説明があった．

LLMを使って論文を書かない．例外：本がAIに関するものであり，その内容が説明目的で使用される場合，ケーススタディなど．
コピー編集ツール：論文にそう宣言せずに使用しても問題なし．LLMではなく，コピー編集ツールであることを確認．
AI生成画像：使用禁止．著作権の問題は未解決．例外：Alに関する記事で直接参照されている写真サービス，画像/ビデオなど．すべての例外は，画像フィールド内でAIによって生成された明確なラベル付け必要．
ピアレビュー：ピアレビュー担当者は，生成Alツールに原稿をアップロードするな．

もう一つは口頭発表論文で，Arkansas大学の研究者Dale Rutherford氏で，「Echo Chamber Dynamics in LLMs: Mitigating Bias and Model Drift」と第する講演を行った．大規模言語モデル（LLMs）が時間とともにバイアス・誤情報・エラー（Bias, Misinformation, Errors：BME）を累積し，モデルの信頼性と中立性が低下する現象を扱っている．こうした問題は，ユーザーとの相互作用，アルゴリズムによる情報選別，過去の出力に基づいた再学習という多層的なフィードバックループによって引き起こされることを示している．

主な貢献は，フィードバックループを① マイクロレベル（ユーザーとAIの相互作用），② メソレベル（アルゴリズムによる情報選別），③ マクロレベル（AI自身の出力への再学習）に分けて構造化したこと（スライド5は，そのダイナミクスを可視化）．バイアスとして，Bias Amplification Rate（BAR）：学習ごとのバイアス増幅率，Echo Chamber Propagation Index（ECPI）：出力の多様性の低下度合い，Information Quality Decay（IQD）：出力中の未検証情報の比率の3つの新たな定量指標の提案し，フィードバックループの階層と情報品質への影響（スライド6）を明らかにしたこと，そして，教育・科学・政策・ビジネス分野での誤情報の伝播と，その帰結を具体的に示すことで，実践的影響を分析していること，さらに，ライフサイクル全体を対象としたAIガバナンス提案として，バイアスのリアルタイム検知，人間による検証（Human-in-the-loop），アルゴリズムに公平性制約を組み込むことを挙げている．

実験的評価：各指標を用いたシミュレーションにより，再学習を繰り返すほどバイアスの増幅，応答の多様性の低下，情報の劣化が進行することを示した（スライド7−9）．実社会への影響をTable 2にまとめた（スライド10）

結論として，BMEの累積は，モデルの設計と運用全体に関わる構造的な問題であること．提案された3つの指標（BAR, ECPI, IQD）を通じ，BMEの進行を可視化・監視する新たな方法を提供したことである．今後は，リアルタイムでのバイアス検出，AIと人間のハイブリッド検証体制，分野横断的な倫理ガバナンスが必要である．

最後にホテルの部屋からの写真二枚（スライド11,12）をつける．ネバダ州の山々が窓から眺められる．チェックイン時はピラミッド内ではあったのだが，今回の部屋は残念ながらピラミッド内ではなく，となりの建物であった．

[1] https://american-cse.org/air-res2025/demography_history
[2] https://american-cse.org/air-res2025/
[3] https://www.jst.go.jp/ristex/rinca/index.html
[4] https://www.jst.go.jp/ristex/rinca/projects/jpmjrs23j2.html
[5] https://www.med-english.com/news/vol91.php

チャットGPTの効用・悪用？（※動画はこちらから確認いただけます） (PPTX：110MB)　