佐倉 統

(情報学環 科学技術社会論)

「AIを中心とする科学技術に対する不安」

予習文献

●佐倉統(2003)「人間にとってロボット(あるいは鉄腕アトム)とは何なのか?──フランケンシュタインと醜いアヒルの子──」『人工知能学会誌』18(2): 145-152

●佐倉統(2018)「家電の謎機能と謎スイッチ、なぜ増える? 考察したら怖いことに…」https://gendai.ismedia.jp/articles/-/57921

●佐倉統(2019)「私たちはなぜワクチンを怖がってしまうのか? 進化論的に考えたら」https://gendai.ismedia.jp/articles/-/64032

 

 

 

田中 郁也

(朝日新聞社 総合プロデュース本部コンテンツ事業部主査)

「AI・デジタル技術がもたらす希望と不安」

予習文献

●英『エコノミスト』編集部『2050年の技術 英『エコノミスト』誌は予測する』土方奈美訳、文芸春秋、2017年、第2章「ムーアの法則の終わりの先に来るもの」、第3章「第七の波、AIを制する者は誰か?」、第6章「政府が「脳」に侵入する」、第13章「人工知能ができないこと」、第17章「働き方は創意を必要とされるようになる」

●「特集:AIと社会」『月刊Journalism』2018年7月号

 

 

 

講義後情報コーナー

履修者のレスポンス抜粋

私としては30日目の睡蓮の話がとても印象に残っています。30日で池を覆い尽くす睡蓮がある。1日で池の1割しか掃除できないとすると、睡蓮の増殖を抑えるには30日になる4日前に危機に気づかなければならないが、それまでの増殖というのは目で見えないようなものであり危機感を抱くのはとても難しいという話でした。この話は指数関数的に増えていくものの凄まじさを伝えてくれますが、私たちが今置かれている状況にこの話を当てはめると背筋が凍る思いがします。例えば現在脅威を奮っている新型コロナウイルスで言えば私たちがまだ大丈夫だろうと思っている間に事態は取り返しのつかないことになっているかも知れず、AIなどのテクノロジーに関しても同じことが言えます。脅威が目に見えていない段階から警戒するというのは難しいことですが、専門家の人をはじめ早く脅威に気づいた人がいち早く警鐘を鳴らしているのだろうとも思います。今回のお話ではメディアの話も出てきましたが、そのような警鐘のうち信頼のおけるものをわかりやすい形で伝えていくという役割をメディアは今後一層求められるのだろうと感じます。私個人としてはフェイクニュースなどが溢れ、信頼できる情報の判別がつきにくくなっている中で信頼できるメディアを自分で確保していかなければならないと強く感じました。(法学部3年)

 

先生方のお話を聞き、現代社会には科学を自らのものだと感じられるような仕組みが必要とされていると考えた。授業で紹介されたように新しい技術に忌避感を覚える事例は昔から数多くあるが、特に現代では技術発展が加速し日常で利用するシステムが一般的な理解の範疇から外れていっており、ブラックボックスから出てきたものを使うことに慣れてしまうのではないかという危機感がある。もちろん新技術の全てを追うことはできないし、スマホの通信の仕組みを考えながら生活するようなことは非現実的だが、知りたくなった際の参照先を整備すれば、誰かに操られているような不安は減少するのではないだろうか。

また佐倉先生がおっしゃっていたような科学知と日常的知識の違いももっと広く知られるべきだと感じた。最近学問に「役に立つ」ことが求められているような危うさを感じているが、真実を探求する科学と人間の幸福に貢献するための技術応用を分離して伝える必要があると思う。新技術への不安の原因の一つに日常が不連続に変化することへの恐怖が挙げられると思っているのだが、技術面だけ見れば不連続でもその背景知識は過去から積み重ねられており今使っている他の技術と関連していることがわかれば安心感にもつながるのではないだろうか。科学は門戸が開かれていることがその特長の一つでもある。技術とその背景にある科学的知識の解説や、広く公開されているジャーナルの利用方法などを伝えることで、日々様々な技術に囲まれて生活していることと同様に科学的知識に触れることも日常の一部になればよいと考える。(工学部3年)

 

日本の現代美術の定点観測的地位のようなものだと捉えている「六本木クロッシング展」で2019年度非常に印象に残った作品がある。林千歩の『人工的な恋人と本当の愛』と題されたそれは、Androidの社長と人間の女性が恋人として、一緒に陶芸をするシーンの中に情愛のシーンが描きこまれるもので、人間対人間であれば自然なそれがアンドロイドに置き換えられると少々言い尽くせない不安感を搔き起こされる一方で、それはどういう部分に起因した感情なのかわからずしばし呆然としてしまった記憶がある。本授業でAIをめぐる問題を聞いている中で、その漠然とした不安感のようなものは、未知のものに対する無知と無限にある可能性を把握できなくなる、人間が掌握の世界において全能でなくなるところに帰着する感情なのではないか、と考えた。深層学習によってAIは想像以上の発達を遂げている。それは人間の夢見て、憧れた進化である一方、倫理や共存的視線の欠如がこうした何者かわからないものに対しての、輪郭のぼやけた不安を生じさせているように感じる。しかし一方で、労働現場等においてはそうした技術が私たちの生活レベルを向上させ、翻訳機能等は境目をなくし人間の意思疎通を可能にするなど、AIによる利点は、より積極的な社会の生成になくてはならないものだと考える。現在の技術革新が先行する中で、どのレベルに、どの領域で導入することが最適解であるかを検討する機会を設けることは必要不可欠であると考える。(文学部4年)

 

本日の講義を聞き、科学的知識と日常実践における知の乖離について改めて考えた。確かに、科学的な厳密知は事実(時として構築されたものかもしれないが)であり、それへの信頼は揺るがないはずであるのだが、日常生活の場面では厳密性よりもプラグマティックな実用性が重要視されることもあり、あまりにも専門化・細分化が進んだ今日の科学的知識への一般的な認識は非常に「軽薄」なものとなっていると思う。こうした研究室と街場の乖離こそ、昨今の人文科学の軽視のような学知への軽視を生んでいるのではないだろうか、と考えさせられた。佐倉先生がおっしゃられていたことではあるが、「縁側」の科学への期待をしたいと思う。ある意味では、デカルト的な二分論の世界で科学と生活を区分するのではなく、二分論の中間に位置するような、科学と生活の融合領域へと立ち返る必要があるように考えた。われわれは大学にて学ぶものであり、将来的にも学知や社会的価値を創出することを期待される人材であるかもしれない。そうしたとき、いかに「生活」に足をつけた価値を生むか。これこそが、グローバル規模で人類を捉えた際の責務であるように思った。「人新世」の時代に何をすべきか、もう一度考えねばと痛感した。(文学部3年)

 

AIの発見した知見は、ブラックボックスで過程や理由などの説明ができないところもあり、それにより人間に不安をもたらすこともあることやAIと人間はまるで写鏡のように、人間の知能に加え偏見もAIに学習させてしまう可能性があることが印象的だった。こうした未知の対象やコロナ、原発事故について人間が抱く不安に関して、適度さの内容や程度、それを決める主体や手続きが議論されたが、自分は専門家や科学者などの専門知に基づいた客観的な基準値(※出せるのであれば)と、怖がりとしての(専門知を持たない)一般市民およびその代表としての政治家の意見の折衝で出たもの(=客観的な基準値よりやや「怖がった」寄りの結論/妥結点)が、そうした未知のものに対する不安の適度さの内容や程度、それを決める主体や手続きとして望ましいものなのかなと思った。ただ必ずしも科学が正しいとも限らず、客観的な基準値を出せるとも限らず、基準値とは関係なく各個人がその価値観・リスク感に基づいて自由に怖がる(怖がらない)ことも認められるべきというところもあるのかなと思った。(工学部4年)

 

 「フランケンシュタイン・コンプレックス」-“新しいテクノロジー”が人々に「不安」を引き起こすことは世の常であった。AIについても例外ではなく、期待と脅威が拮抗する状況にある。だが、今日ではそれ抜きの生活は考えられないほどAIは日常に浸透しており、もはや”新奇なもの”への恐れから闇雲に遠ざけていてよいフェーズは過ぎ去った。いかにその強大な力を「飼いならす」ことができるかこそ肝心である。佐倉先生は、「科学知」と「日常知」を結びなおす「えんがわ」が必要であると言い、田中先生はその際、「科学」にできることとできないこと、それが我々の「日常生活」にもたらす光と影を見定めていくことの重要性を説かれた。

 

 さて、目下我々の日常生活はコロナ禍という「不安の時代」にある。そこでは、最新のテクノロジーに依拠する「科学的」な感染者数予測や感染症対策など、「科学知」に基づく情報が溢れている。だが、その氾濫・錯綜のせいで、かえって何を信じどう行動すればいいのかが見通しづらくもなっている。政府や医師会の発信すらいつしかその権威を失い、そこに多様なイデオロギーや利害の対立も絡むなかで、事態は混迷を極めている。ともすれば、むしろ「科学(知)」こそが「不安」の元凶であるかのように捉え、「科学」的な根拠のある感染症対策の一切を拒否するようなバックラッシュー「科学知」の拒絶と素朴な「日常知」への回帰?-まで一部には見られ始めている。こうした事例からもうかがえるように、「科学」ないし“新しいテクノロジー”を「飼いならす」途には多大な困難が予測される。だが、そうした失敗の経験-「影」の経験-すらもデータとして蓄積し、そこから真摯に学ぶことで、少しずつでも「光」に向かって進んでいくことが出来るはずだ。「深層学習(ディープ・ラーニング)」をウリにするAIにできる「学習」が、それを生み出した「飼い主」たる我々人間にできないはずがないし、できなければ困る。その先にしか「不安の時代」を脱する途は開かれないのだから。(教育学研究科・修士1年)