生成ＡＩ リスクを直視…読売新聞 報道と紙面を考える 第３３回懇談会
完了しました
読売新聞東京本社は１０月１８日、第３３回「報道と紙面を考える」懇談会を開いた。外部有識者の意見を取材や紙面作りに生かすのが目的で、本社紙面審査委員会が顧問を委嘱する上田廣一、国松孝次、坂東真理子の３氏と、明治大の湯浅
裁判 人間の判断が必要…上田廣一氏 弁護士、元東京高検検事長
マイナス面 立法で備え…国松孝次氏 元警察庁長官、元駐スイス大使
習得すべき語学力 問う…坂東真理子氏 昭和女子大総長
功罪
人間と対話するかのように文章を作り出したり、精巧な画像を瞬時に生み出したりできる生成ＡＩ。その活用は社会のあらゆる分野で急拡大している。
冒頭、小野田経済部長は、生成ＡＩのプラス面から現状を報告した。各企業において、「チャットＧＰＴ」に社内資料の作成を担わせたり、画像生成ＡＩで商品のデザイン案を量産したりする例を紹介。「産業界では、人手不足が常態化し、業務の効率化を進めるため、生成ＡＩを活用する動きが広がっている」と述べた。
一方で、様々なリスクも指摘されている。偽情報や偽動画の拡散、犯罪への悪用、雇用の喪失などだ。読売新聞は今年２月以降、年間連載「生成ＡＩ考」を掲載し、ビジネスや行政、教育現場などにおける生成ＡＩの利活用とそれに伴う弊害を取り上げてきた。
竹原社会部長は連載の狙いについて「国内外の動きを追い、無秩序な利用に歯止めをかけるべく問題提起を図った」と説明した。大学生らが生成ＡＩにリポートを書かせる例があることにも言及し、「思考力の低下が懸念されている」と述べた。
ＡＩ活用の影響
こうした報告を受け、昭和女子大で総長を務める坂東氏は、教育分野での利用について現状を語った。「ＡＩで自動翻訳ができるようになり、学生たちがどのレベルの語学力を身につけるべきなのかが現実の問題となっている」と話した。
明治大教授の湯浅氏は、研究者の間でも英文翻訳などでＡＩ利用が広がっているとし、「生成ＡＩは、語学を勉強することに意味があるのかという根本的な問いを教育現場に投げかけている」と述べた。
犯罪への悪用について、元警察庁長官の国松氏は、生成ＡＩを使ってコンピューターウイルスを作成した疑いで男が警視庁に逮捕された例を挙げ、「（犯罪を）やる方が先行し取り締まる方は遅れているが、警察もかなり本腰を入れ、捜査手法の技術を改良して少しずつ前へ進んでいる」と指摘。「生成ＡＩを巡る検挙事案がこれから色々出てくるだろう」との見通しを示した。
弁護士の上田氏は、司法分野でＡＩを使うことの是非に触れた。「裁判は人間が行うことに意味があり、生成ＡＩが裁判をしたら、世の中の人が信用しなくなる」とし、「法律の世界では、人間が判断することが必要だ」と訴えた。
分断、民意ゆがめ
生成ＡＩによって動画の加工が容易になり、偽情報の
米大統領選の取材を指揮した竹腰国際部長は、連載「生成ＡＩ考」でこうした問題を取り上げたことに言及し、「偽情報が分断をあおり、民意をゆがめ、民主主義の根幹である選挙に大きなリスクをもたらすという問題意識を持って取材を進めた」と説明した。
湯浅氏は、同連載を「非常にバランスのいい特集」と評価した。その上で、「政治に関する偽動画や偽画像は、政治への『サイバー攻撃』といえる」と指摘。「米国と異なり、日本は社会の仕組みや民主主義をサイバー攻撃から守るという視点が希薄だ。そうした広い視点や枠組みから生成ＡＩの問題を取り上げて、報道してほしい」と期待した。
権利侵害
生成ＡＩは、インターネット上の膨大なデータから学習した内容に基づき、文章や画像を作り出している。米国では昨年、ＡＩの機械学習に著作物が無断で使われたとして、芸術家や作家らがＡＩ開発企業を相手に次々と訴訟を起こした。
一方、日本の著作権法３０条の４は、著作権者の利益を不当に害する場合を除き、ＡＩが無断で機械学習することを認めている。日本の状況が「機械学習パラダイス」とも呼ばれるゆえんで、著作権者からは法改正を含め、権利の保護策の強化を求める意見が上がっている。
上田氏は「ＡＩの需要が増す中で、適切に解決する方法を考えていかねばならない」と述べた。
湯浅氏は「確かに著作権法は学習プロセスについてはかなり緩い規制だが、個人情報やプライバシーが学習データに含まれる場合、既存の法規制の組み合わせでも一定の対処ができる」と提案した。
規制半ば 尊厳守るには ＯＰ、新聞社の「本業」…湯浅墾道氏 明治大教授（情報法）
ＥＵ、包括「ＡＩ法」
海外では、生成ＡＩに対する法規制が進みつつある。
厳格な規制を導入しているのが欧州で、今年５月、欧州連合（ＥＵ）が世界で初めてＡＩの開発や運用を包括的に規制する「ＡＩ法」を成立させた。
当初は企業の自主性を尊重する姿勢をとってきた米国も、偽情報の拡散や軍事への転用といったリスクへの危機感を背景に、バイデン大統領が昨年１０月、ＡＩの安全性確保に向けた大統領令に署名。法的拘束力を持つ規制を初めて導入した。
こうした動きについて、坂東氏は「ＥＵは自分たちが有利になるような土俵作りがうまく、賢い。米国のような力はないが知恵で勝負し、規制している」と指摘。その上で、「日本はＥＵのようなしたたかさは持ち合わせていないが、各国のルールに合わせようと努力するのではなく、自分たちなりに納得できるルール作りが必要だ」と語った。
海外の動向を踏まえ、日本もようやく法整備に向けた検討に着手。政府の有識者会議「ＡＩ戦略会議」において、安全保障や偽情報、人権侵害などを念頭に、法規制に向けた議論を本格化させている。
国松氏は「犯罪は現行法で対応するとして、生成ＡＩのマイナス面が新しい形で出てきた場合、現行法の枠内での対応は難しくなるだろう。立法論も含めて検討していかなければならない」と述べた。
報道機関の役割
生成ＡＩの利用が広がる中、人間の自由と尊厳が維持された言論空間を確保しようと、読売新聞社とＮＴＴは今年４月、「生成ＡＩのあり方に関する共同提言」を発表した。選挙と安全保障分野の生成ＡＩ利用を制限する立法措置を含め、制度と技術の観点からＡＩの規律と活用の両立を求めた。
小川政治部長は「こうした提言によって問題意識を政府にも強く伝え、正しい規制を促したい」と強調。「生成ＡＩの開発は途上で、法整備の課題や論点を積極的に報じていく」と語った。
国松氏は「共同提言のような取り組みは大いに取り上げてほしい」と賛同し、「ＡＩの活用と規制の両立は非常に難しい問題だが、マスメディアの役割は大きい」と期待を示した。さらに、「ＡＩは、その活用方法によっては人間の尊厳を冒すものになる。そこに根源的な問題があるということをしっかり認識した議論が必要だ」と話した。
坂東氏もこれに同調し、事実を正確に報道することに加えて「倫理観、正義感を持って報道してほしい」と求めた。上田氏も「人間がこれからどう生きていくかといった点を中心に取材していただきたい」と語った。
同提言では、信頼性のある情報の識別技術として、発信者情報を電子的に付与する「オリジネーター・プロファイル（ＯＰ）」の有用性を明記した。
湯浅氏は、生成ＡＩ時代には報道機関の役割や意義が変わりつつあるとし、「データに不正はないかを見極めることもある種の取材となる。ＯＰのように、新聞社側が何かを作り出すことも、広い意味での報道機関の役割、本業と考えていいだろう」と述べた。
欧米に比べて必要な法規制が遅れているとの認識を示し、「共同提言のような形で法規制を求める力が非常に重要だと思っている」と結んだ。
偽情報の氾濫、深刻…老川・グループ本社会長・主筆代理・国際担当
今年のノーベル平和賞には、被爆者団体の全国組織「日本原水爆被害者団体協議会（被団協）」が選ばれました。一方、物理学賞はＡＩ研究の第一人者の受賞が決まり、化学賞はＡＩによるたんぱく質の正確な構造予測が授賞テーマでした。
「原爆」と「ＡＩ」は直接関係しないようにみえますが、どちらも、科学技術の画期的な発見が人類に大きな利益をもたらすと同時に、他方で取り返しのつかない災厄を生み出すという共通点があります。その両面があることを改めて認識し、少しでも弊害を減らすために何ができるのか考える契機になったという意味で、今年のノーベル賞は非常に印象的でした。
ＡＩは社会の様々な分野で既に活発に利用されています。企業では、業務の効率化や社長の入社式のあいさつにも使われるような時代です。確かに便利にはなりましたが、ＡＩによって、人間のコミュニケーションや行動の模範型が形作られてよいのかという疑問を持たざるを得ません。
日本はＡＩ分野で立ち遅れているといって、「活用と規制」と言いながら、実際は「活用」に偏る傾向があります。我々は、そうした姿勢は問題だと考えます。生成ＡＩに答えを出してもらうのではなく、自分自身で学び、考えることが大切です。これは人間存在の根源に関わることです。
偽情報の氾濫は深刻です。現実に、日本の首相や米大統領の顔と声を使って、本人が話しているかのような偽動画が流されたりしている。社会に大混乱を招く恐れがあり、弊害を放置するわけにはいきません。
読売新聞は早くから、ＡＩの利便性とともに弊害を指摘し、連載などで読者に考える素材を提供しようと取り組んできました。人間が人間であるためには何が必要か、また利便性を追求する際に必要で適切な法規制のあり方など、より大きな視点から今後の紙面作りに努めたいと思います。
大きな視点で深く取材…滝鼻編集局長
読売新聞は、連載「生成ＡＩ考」や「情報偏食」を通じて積極的に生成ＡＩの問題を取り上げてきました。本日ご意見を頂戴し、取材すべき課題はあらゆる分野に広がっていて、それだけ生成ＡＩというテーマの大きさというものを改めて感じました。
生成ＡＩに関する問題について、より大きな視点や価値観で捉えるべきだとのご指摘をいただきました。過去の報道の中で、議会で生成ＡＩを使うことは、民主主義の在り方としてどうかという視点で考えたことがあります。国会での活用は議会制民主主義の根幹に関わるという問題意識を持っています。
また、著作権など法規制の在り方についても、現行法で対応できることや新たな立法の必要性などご意見いただきました。
生成ＡＩの技術の発達は驚くべきスピードで進み、社会が大きく変化していくと認識しています。私たちもスピード感を持ち、世界各国にいる記者と全国にいる記者の知恵を結集して、引き続き、大きな視点で真正面から取材報道に当たっていきたいと思っています。
◎本社側の出席者
老川祥一・グループ本社代表取締役会長・主筆代理・国際担当 東京本社取締役論説委員長、前木理一郎・東京本社専務取締役編集担当、滝鼻太郎・編集局長、小川聡・政治部長、小野田徹史・経済部長、竹腰雅彦・国際部長、竹原興・社会部長、安田幸一・科学部長、足立大・論説委員、小林篤子・グループ本社広報部長、寉田知久・紙面審査委員会委員長
