Human人権問題NEWS

【テーマ】AIがヒトと社会に与える影響について考える
講　師 ： 岡村　浩史 氏
　　　　（大阪公立大学大学院医学研究科 血液腫瘍制御学 兼 臨床検査・医療情報医学 講師）
司　会 ： 伊藤　一弥（看護学研究科 教授）
日　時 ： 2024年6月28日（金）10：45～12：15
会　場 ： Zoom（オンライン講演）
報告者 ： 中前　美佳（医学研究科 准教授）

　2024年の春の人権問題講演会は、「AIがヒトと社会に与える影響について考える」をテーマとして行われました。講師の岡村浩史先生は、現在大学病院で働く血液内科医であり、医療情報部に所属している医師で、工学部卒業後システムエンジニアとして働いたという異色の経歴を持っています。（なお、私は講師の岡村浩史先生と同講座で共に業務や研究をしており、私自身が彼の仕事を知ったうえで適任と思い、AIと人権というテーマで本講演の依頼をしております。この講演録は岡村先生の身近な立場からの記述となることをご了承ください。）

　講演は、AIの変遷状況から始まりました。現在はAIの第３次ブームで、医療領域におけるAI利用も進んでいます。特に画像領域での進展は目覚ましく、マンモグラフィーや内視鏡領域では医師の診断能力を超えてきています。岡村先生は当講座で、造血細胞移植予定患者の背景情報（年齢、疾患状態など）入力にて最適治療法を出力するプログラムを開発されました。他にも診療支援モバイルアプリ開発も続けています。
　近年のAIの発展により、医師の思考過程である診断においてもAIが寄与できます。多種類のデータを同時に処理できるマルチモーダルAIは、単に画像のみ、背景情報のみからではなく、検査所見やバイタル所見なども含めて総合的に判断することで、内科医の思考ステップに類似した結果を返すことができます。大規模言語モデルにおいてトランスフォーマーというAIの手法は関係性を判断し重要な単語に重みづけして予測するモデルですが、いかにもヒトの思考のように関連する単語の予測ができます。メタ学習というAI自体が学習方法を学ぶ手法により新しいタスクにも対応可能になってきています。近未来的な話ですが、人間の蛋白やDNAを設計し人間を改変できる未来が来るかもしれず、AIが自我を持つことで人類に危害を加える懸念があり、現実的な面でも、AIの発展に社会構造が追い付いておらず、一旦AI開発をとめるべきという意見もあります。
　岡村先生からは、AIリスクを考える際には、弱いAIと強いAIと分けての考えることの説明がありました。弱いAIとは、現在のAIで、画像認識ソフトのような、特定のタスクをすることを定義づけられたAIです。一方、強いAIとは、汎用型AIとも呼ばれ、例としては自我や自意識を持つロボットのイメージで未来のAIです。
　弱いAIに対する課題として著作権の問題から紹介がありました。本邦では学習段階の規制は無く、生成物の類似性及および依拠性で判断されAIでも人でも判断根拠は変わらないという、先進国としては比較的緩めともいえる規制です。肖像権については日本で法律はないものの、原則は生成物にて判断されているようです。
　AIによる判断が人権侵害になることがあります。有名な話ですが、アマゾン社のAI採用において男性に偏る判断がされたことは、重要ポストに男性が多い過去データを教師データとして学習したことが理由です。岡村先生としては、過去からの分析自体は人間でも行うことではあるが、AIは従来の差別を可視化し助長しうるため、技術で性差別を防ぐことが可能として、性別の重みづけを変える介入例を紹介されました。
　AIによる雇用喪失については、リスクは確かに存在するが、別の新たな仕事が生まれること、また、ホワイトカラーが業務削減されると言われており、AIで代替できないブルーカラーの価値が高まることで、格差が是正される可能性について触れられました。ただ、雇用人数減少や業務効率化は雇用側によってはメリットで、労働者には雇用喪失はデメリットですから、いずれにせよ見方は立場や社会構造に依存するという意見を述べられました。
　強いAIのリスクについては、自意識のようなものをもつことで、開発者がコントロールできない心配が生まれます。しかし岡村先生は、現状は「弱いAIの民主化」が現実的な危険である、つまり、AIを誰もが簡単に開発し普及させることが可能になることで、情報操作を行える懸念を強調されました。実際にフェイク画像による情報操作が行われている可能性はおそらく高いでしょう。
　私自身が岡村先生の講演で一番面白いと思った点は、ヒトはAIではないのかという意見でした。AIは過去の情報から予測を行いますが、我々も判断の殆どを、過去の経験、既知情報、周りの影響を受けて判断しており、ヒトはAIと類似するという考え方です。ヒトの思考は予測の集合体と考えると、AIが一見、自我にみえるものをもつ可能性があり、ヒトとAIの境界線は思ったよりあいまいになってくるのかもしれません。私自身は、ヒトの脳は全く過去にないことを生み出せる創造性をもち、その点ではAIが人間を超えることはないと考えますがこれはこれから議論が深まることでしょう。
　この講演の後日談として、岡村先生から、「AIと人権」という普段考えない観点で考えることができ良い機会になったという意見をもらえ、講師依頼が正解だったと自負しております。聴講いただいた方にとっても有意義な機会になったのではないでしょうか。