おはようございます、ノ・ジェスです。
令和哲学カフェは、BEST BEING塾を
10300校つくるという流れから
現在は毎週1回月曜日に
時代に必要なテーマで開催しています。
今回のシリーズでは
『NEXUS 情報の人類史』と
BEST BEING塾のあり方・思い方・
やり方哲学をメタ4していきます。
今回は第8章「コンピューターネットワークは
間違うことが多い」の前半について、
原田卓さんから
プレゼンテーションがありました。
今回の核心は、
コンピューターネットワークは
膨大な情報を集め、常時監視し、
パターン認識をしていても、
決して真実そのものを
理解しているわけではない、という点です。
情報ネットワークは真実を発見するのではなく、
新しい秩序をつくり出し、
それを人間に押しつけます。
1930年代ソ連の
「拍手テスト」が象徴するように、
監視・処罰・報酬のネットワークは、
人間を従順な存在へと変えていきました。
同じことは現代のSNSにも起きています。
YouTubeやFacebookのアルゴリズムは、
ユーザーエンゲージメントを
最大化することを目標に置き、
その結果として怒りや憎しみ、陰謀論を
増幅しやすい構造をつくり出しています。
問題は、AIやアルゴリズムが
悪意を持っているかどうかではなく、
設定された目標と
現実にもたらす結果が一致しない
「アライメント問題」にあります。
ディスカッションでは、「人間はAIに
最終目標を与えることができるのか」
がテーマとなりました。
途中の手段や命令は与えられても、
最終目標そのものをAIに
委ねてはならないのではないか。
なぜなら最終目標とは、
自由意志や創造性、未知なる未来に開かれた
人間の領域だからです。
AIは過去データの延長線上では強くても、
無知の完全性やオールゼロ化、
存在以前の関係性を扱うことはできない
という議論が交わされました。
AIの進化が加速する今こそ、
人間が人間にしかできないことは何かを
明確にする必要があります。
人間がAIのペットになるのか、
それともAIを正しく活用しながら
新しい文明をつくるのか。
その分岐点に、私たちは立っています。
だからこそ、
脳機能を超えた観点が、
これまで以上に必要になっているのです。