【AIと倫理ーダイナミック・ハーモニーを手がかりに】第59回（2021/12/14）無名塾（オンライン）開催　講師：鈴木晶子氏

講演テーマ：「AIと倫理　ーダイナミック・ハーモニーを手がかりに」

講　師：鈴木晶子 氏　京都大学大学院教育学研究科教授、理化学研究所 革新知能統合研究センター 人工知能倫理・社会チームリーダー

【研究論文】

・AIと大学　－未来型サイバー・フィジカル・システムのゆくえ    (教育学術新聞, 2019年8月28日刊行, ２-２)

・AI技術文明時代に求められる教養を探る　－法・倫理・教育にとっての技術革新と人間社会　－    (教育哲学研究, 119, 146-152)

◆ 冒頭挨拶 （塾僕 武田修三郎）

　前回、9月開催の無名塾は、一ツ橋大学 市川類先生にDXについて話題提供をして頂いた。今回は京都大学 鈴木晶子先生にAIと倫理について話題提供して頂く。鈴木先生は、大学で教育哲学や歴史人類学の研究、また兼任されている理化学研究所では革新知能統合研究センター 人工知能倫理・社会チームのリーダーをされている。何度か先生とオンラインで話したが、「人間の知や能力を最大限に引き出す研究のためには、専門分化された領域研究ではだめで人間活動全般にわたる広い領域の研究が大事である。それで初めて人間、そして人間らしさの謎に迫ることができる」と先生は話す。

　ニューズウィーク誌11月30日付の日本語版では「AI戦争の時代」の特集でAIを搭載した兵器が、自らの判断で敵を殺し始めた。また、米元国務長官のキッシンジャー等がだした著書「AIの時代と私たちの未来」を紹介し、キッシンジャーによる“AI兵器は、核より怖い”という言葉も伝えている。AIがトランスフォームさせるのは、戦争だけでなく、経営・ガバナンス、技術、産業、行政、医寮、すべての分野にわたっている。

　流通大手のアマゾンでは、会費をとって特権やサービスを提供する「プライムメンバー」というサービスがあるが、特権は当日配送や無料ビデオ配信など。奇妙な比ゆかもしれないが、会費をとり、特権やサービスを提供するという点では、中国共産党と同じである。アマゾンのプライムメンバー数は1億7500万人、中国共産党員数は9５00万人で、どうやって顧客を満足させるのか。経営、特にガバナンスが要となる。

　これについて、アマゾンの創始者ベゾスは、大幅にAIを導入していると秘密を述べている。また一方、習近平は述べたことはないが、ガバナンスの専門家たちは、彼も間違いなくAIを最大限導入していると考える。つまり、AIで9500万人の共産党員のプライドと待遇をどう満足させ、党に忠誠を尽させるか、中央委員会のライバルの弱点を握り、どう失脚させるか、14億人の中の不穏（ふおん）分子をどう摘発するか、を行っている。

　一見、何れも大変な成果を上げているように見える、が本当にそうだろうか。もしかしたら、私たち人間の本質を忘れたディストピアに入っているのかもしれない。だからと言って、私たちは、AIの進歩を遅らせることはできないのである。遅らせれば、それだけ日本は世界からおいて行かれるだけである。真のAIの進歩のためには、研究費の増額だけでなく、人間とは何か、その人間が行う国家、企業、研究といったことを含めたAI倫理を確立する必要がある。それも個々の人々による異なったものではなく、共通した意味のものが必要となる。本日の無名塾では、皆さんがぜひ鈴木先生の話から、そのためのヒントを得てほしいと思っている。コーディネーターは、京都大学 学際融合センターの宮野先生にお願いした。宮野先生の活躍ぶりは改めて紹介するまでもないと思うが、先生が行っている学際融合のテーマに、ぜひAIの推進、そのためのAI倫理を入れてほしいと思っている。

◆ 塾僕　武田のまとめ

　鈴木先生、宮野先生、ありがとうございました。あらためてAI、人工知能とは何であるのか考えさせられた。1950年代半ば、この分野の立ち上がりの頃、これをどのように呼ぶかについての論争があった。創始者の一人、ジョン・マッカーシー（John McCarthy）は、「人工知能（AI-Artificial Intelligence」と呼び、結局、この呼び方が定着したが、同じ創始者の一人、ハーバート・サイモン（Herbert Simon）は、Complex Information Processing （CIP：複雑系情報処理）と呼んだ。もしCIPが選ばれていたら、現在どのような期待、そして倫理の議論がなされるのか、と。 鈴木先生へのお願いの一つとして、AIへの過度の期待は取り去ってほしい、ということがある。

　また、倫理そのものへの課題がある。私たちは、それこそギリシャに戻って、エシックの普遍的な概念を新たに打ち出す必要があると思っている。そしてAI倫理やデータ倫理を世界で統一できるかという課題もある。現実の問題として、私たちは自由と民主主義を基盤とする社会体制の中で議論しているのだが、権威主義を基盤とする社会体制では、異なる考え方でAIやデータを扱ってきている。残念ながら、一方の側を強制し、統一させる手段はない、と言える。

　その中で本日、鈴木先生が指摘された日本からの貢献の可能性はぜひ進めていかなければと思っている。日本政府のDFFT（Data Free Flow with Trust）の提言が国際的な基準となっているが、今後も関係方々のさらなる尽力に期待したいと思う。

　冒頭で話したキッシンジャー元米国務長官は、AIに出会ったのが93歳の時・・今年98歳になられるが、彼は現在もAIの科学的側面で多くの発信をしている。“自分は歴史学者であり、時に政治家だった。科学技術に対して未熟であるが、いまも学んでいる。AI研究者は、国際政治とか、歴史には未熟かもしれないが、AIの国際政治や歴史的な側面での発信をすべきである”と述べている。ぜひ、日本のAI研究者もAI時代への政治・国際的な戦略を発信してほしいと思っている。