投稿者: チャットＧＰＴの音声作成機能を使って作った音声によるオレオレ詐欺の被害が出た。早朝、ラジオ放送で知り、ざっと読んだだけにしていたある調査結果を読み直してみた。選挙権年齢が１８歳に引き下げられたのを機に２０１８年から続いている日本財団の「１８歳意識調査」<new_pr_20230901_01.pdf (nippon-foundation.or.jp)>だ。実際の年齢・性別人口比に合うよう日本全国から抽出した１７歳から１９歳まで計１０００人の男女を対象に実施されている。今年８月１９、２０日に実施した最新の調査（第５７回）のテーマが「生成ＡＩ」だった。
生成ＡＩ使う若者３６％
「生成ＡＩを使ったことがある」と答えた人が、３６．１％もいるというのは、ちょっと驚いた。ただし、この人たちに「どのような種類の生成ＡＩを使ったか」を聞いた項に対して「テキスト生成ＡＩ」と答えた人が９２．８％というのは、理解できる数字だ。「画像生成ＡＩ」と答えた人が３１．３％というのは、やや驚く。結構、高度な利用をしている若者が多いのだな、と。「音声生成ＡＩ」となると、ぐっと少なくなる「動画生成Ａ１」の５．５％よりさらに少ない４．７％でしかない。まあそんなところだろう、と最初に調査結果を見た時には、あまり気にならなかったというわけだ。
しかし、あらためて調査結果を読み直し、これらの数字についての見方が変わった。「生成ＡＩを使ったことがある」と答えた人は全体の３６．１％だから、このうちの「音声生成ＡＩ」を使ったことがある４．７％は、調査対象者全体の１.７％に相当する。つまり調査対象者である１７～１８歳の若者１０００人中１７人が「音声生成ＡＩ」を使ったことがあるということだ。オレオレ詐欺の犯行グループが、狙いをつけた高齢者の息子とそっくりな音声をつくりだすなど、それほど難しくない時代になっている、と気づいた次第だ。
警察庁によると、オレオレ詐欺は２０２２年に前年より３９％増えて４２８７件起きており、被害額も前年より４２．７％増の１２９億３０００万円に上る。気が動転していると他人の声を息子の声と思い込んでしまう人たちが多いということだろうが、「音声生成ＡＩ」を使われたらもはや詐欺と気づく人はさらに少なくなってしまい、被害件数、被害額はさらに増えてしまうのではないか。被害にあった人たちの落胆、後悔の気持ちを想像し、しばし考え込んでしまった。
ＡＩ開発者の行動規範作成へ
チャットＧＰＴが世界に与えた衝撃は広がるばかりで、新聞紙面でも生成ＡＩに関する記事がない日の方が少ないという印象だ。４月に高崎市で開かれた先進７カ国（Ｇ７）デジタル大臣会合が閣僚宣言の中で「生成ＡＩ技術の持つ機会と課題を早急に把握し、技術が発展する中で、安全性と信頼性を促進し続ける必要性を認識した」ことが明記された。５月のＧ７広島サミットの首脳宣言では、生成ＡＩの活用や開発、規制に関する国際的なルールづくりを推進する「広島ＡＩプロセス」の創設が盛り込まれている。
これを受けて９月７日には「Ｇ７広島ＡＩプロセス閣僚級会合」がオンライン形式で開催され、ＡＩ開発者を対象とする指針と行動規範をＧ７首脳へ提示することを目指す閣僚声明をまとめている。指針と行動規範は、生成ＡＩを含む高度なＡＩシステムについて基盤モデルの能力、限界、適切・不適切な利用領域の公表や、政府、市民社会、学界との間での責任ある情報共有など、さまざまな責務をＡＩ開発者に求める内容になるという。
欧州、米国で法整備目指す動き
こうした一連の国際的会合で明らかになった一つに、欧州諸国と米国、日本の生成ＡＩに対する基本的な考えの差がある。生成ＡＩが社会に及ぼす負の影響に対する法的規制づくりに向けての動きが先行する欧州諸国に対し、過度の規制は生成ＡＩの活用に好ましくないとみる米国、日本との違いだ。ただし、生成ＡＩに関する法整備に向けての動きは最近、米国でも顕著になっている。９月１３日には、ワシントンで米連邦議会の超党派議員によるＡＩに関する法的規制に関する会議が開かれた。
生成ＡＩについては法的規制が必要という主張は、チャットＧＰＴを開発・公開した企業「オープンＡＩ」のサム・アルトマン最高経営責任者（ＣＥＯ）自身が、各国の政府関係者たちに伝えている。日経新聞によると１３日に開かれた会議にはアルトマン氏をはじめスンダ―・ピチャイ・グーグルＣＥＯ、マーク・ザッカーバーグ・メタＣＥＯ、イーロン・マスク米テスラＣＥＯ、ビル・ゲイツ・マイクロソフト共同創業者ら大物起業家も参加した。国際ルールの議論を米国が主導し、ＡＩの分野で自国のハイテク産業の優位を保ちたいという米議会の狙いに、参加した企業人の多くも賛同する意思を示した、と同紙は伝えている。
日本はどうか。教育への影響の大きさにいち早く気づいた文部科学省の動きが目立つ。７月４日に「初等中等教育段階における生成ＡＩの利用に関する暫定的なガイドライン」<初等中等教育段階における生成AIの利用に関する暫定的なガイドライン (mext.go.jp)>を公表した。生成ＡＩの仕組みを理解し、どのように学びに活かしていくかという視点、さらに使いこなすための力を意識的に育てていく姿勢が重要。同時に生成ＡＩには、個人情報の流出、著作権侵害のリスク、偽情報の拡散、批判的思考力や創造性、学習意欲への影響などさまざまな懸念も指摘されている。教育現場での活用に当たっては児童生徒の発達の段階を十分に考慮する必要がある。こうした基本的な考え方を示した上で、「適切でない」「活用が考えられる」具体例をそれぞれ数多く挙げた指導指針となっている。
ちょうど夏休みを直前に控えた時期ということで「長期休業中の課題等について（文章作成に関わるもの）」として、細かな注意も示していた。コンクールの作品やレポートなどについて生成ＡＩによる生成物を生徒・児童がそのまま自己の生成物として応募・提出すると不適切または不正な行為とされる恐れや、学びが得られない懸念についても十分、指導することを小中高校の現場に求めている。ちなみに日本財団の「１８歳意識調査」では、今年の夏休みの課題・宿題に生成ＡＩを活用したのはこの項目の回答者となった学生９２４人中、６４人、「これから活用する」を含めても８４人という結果が出ている。
ＡＩ関連概算要求額４４%増
来年度に向けての政府全体の動きは前向きだ。来年度予算の概算要求の中でＡＩ関連予算は約１６４０億９０００万円になることが、９月８日に開かれた政府のＡＩ戦略会議ＡＩ戦略で示された。今年度予算に比べると約４４％増で、このうち生成ＡＩ関連予算は約７２８億円となっている。科学研究向け生成ＡＩモデルの開発・共用に８４億９０００万円。生成ＡＩモデルの透明性・信頼性の確保に向けた研究開発に２９億９０００万円。国家戦略分野の若手研究者および博士後期課程学生の育成（次世代ＡＩ人材育成プログラム) に２４億５０００万円。生成ＡＩ基盤モデル開発（生成ＡＩにかかわる情報処理基盤産業振興事業）に３億７０００万円。こうした生成ＡＩ基盤モデルの透明性・信頼性の確保などに関する研究開発力と産業競争力の強化を図る予算額が目を引く<shisaku.pdf (cao.go.jp)>。
このほか、行政に生成ＡＩ活用を図るために各府省が要求している調査研究費もある。国家公務員の働き方改革促進のための生成ＡＩなどの利活用にかかわる調査研究（内閣府：５０００万円）、生成ＡＩ活用のための環境構築および運用（外務省：１億６０００万円）、チャットＧＰＴなど新技術の労働法教育への活用などにかかわる調査研究（厚生労働省：４０００万円）などだ。
これら日本政府の動向や民間の調査結果からうかがえるのは、さまざまな懸念は承知しつつ開発・利用に前向きな日本の姿だろう。「ＡＩをどう上手に活用するかを考えるべきではないだろうか。ＡＩは悪魔か救世主かという二元論にはなんの意味もないと思う」。生成ＡＩに関しては多くの識者がさまざまな論考を公表しているが、月刊誌「Ｖｏｉｃｅ」９月号で、科学史家・科学哲学者の村上陽一郎氏がこのような見方を示している。「ＡＩが進化することでＳＮＳ（ソシャル・ネットワーキング・サービス）上の真偽不明の情報はより増えるだろう」「私たちはいま以上に情報の選択の精度を問われることになる。もちろん、マスメディアなど情報を取り上げる側の責任もいま以上に大きくなる」という注意喚起もした上でだが。
知識より思考力重視の教育へ
最後に教育に関する生成ＡＩの影響について触れてみたい。９月８日、日本記者クラブで中尾政之東京大学工学部教授がチャットＧＰＴについて語る記者会見が開かれた。生産工学や加工工学が専門で企業の生産活動に伴う事故・失敗の原因を解明する「失敗学」の研究でも知られる中尾氏は、「設計作業で役に立つ。活用すべきだ」と言い切った。「次の『チャットＧＰＴ‐５』は、日本語でも多くの技術知識を学習するはず。エンジニアのうち、それを自分の脳の拡大として使えた人は高給取りになり、脳として使えずに盲信するだけの人は失職する。さらに専門知識を教えるだけなら、ＡＩが先生になれば十分なので大学教授も失職する。高校や中学の教師も同様に」とも。
一方、中尾氏は今の東京大学生について興味深いことを話していた。「自由課題の創造設計の領域となるとパワーを失ってくる。“受験の勝ち組”ばかりで、原体験や多様性がないので、均質・凡庸なアイデアしか創出されない。創作は知識量とは別次元の話」。さらに「大学は知識を覚えさせるだけではなく、創作できる人間、まずは議論して考えさせる人間を大量生産しないと駄目」とも。
中尾氏の話を聞いて思い起こしたのが、同じ日本記者クラブで５月１５日に行われたアンドレアス・シュライヒャー経済協力開発機構（ＯＥＣＤ）教育・スキル局長の記者会見。「ＡＩはいずれ必ずほとんどの大学入試問題を解けるようになる」と同局長は言い切り、機械ができるようなスキルを調べるだけになっている現在の大学入試をＡＩが代替できない意識や概念を理解できる人間の思考力を問い、人間の能力の限界を広げるような入試へ変更するよう提言していた。
「大学は創作できる人間、まずは議論して考えさせる人間を大量生産する必要があるということだが、例えば東京大学の入試は今のままでよいのか」。中尾氏の記者会見で氏に質問してみたところ、答えは次のようだった。
「チャットＧＰＴに負けない入試問題をつくらないといけない、と入試問題作成責任者も言っている。一つの考え方としては、答えがいくつもある問題を出して答え方のプロセスを見るやりかたがある。解き方を見る方に変わっていくべきではないか。大学だけでなく、高校の入学試験、さらには教育も」
東京大学をはじめとする大学入試の在り方、さらには大学や高校以下の教育が急に変わるのは簡単ではなさそうだが、ひょっとすると生成ＡＩにはそれくらいの力もあるのだろうか。
（了）