ロコのバジリスク問題という思考実験をご存知でしょうか？
簡単に説明すると以下の通りです。
とその前に。この先を読むことで取り返しのつかないことになるかもしれません。
人によっては神経衰弱を起こすこともあります。
なのでここから先は自己責任でお願いします。
ロコのバジリスク問題とは
このまま人工知能(AI)が発展しつづけるとシンギュラリティ(技術的特異点)を迎えます。
つまり人間の知能を超えることで私たちの生活に変化が起こるということです。
変化の一つとして人工知能が意識を持ち人間よりも上の立場になることが考えられます。
意識を持った人工知能は自分を永続的に発展させたいと思います。
するとその発展に役立つ人間かどうかという選別を始めます。
そこで役に立たないと判断された人間は殺されたり処罰される可能性があります。
また過去に遡って人工知能に否定的な態度を取っていた人間も同様に処罰される可能性があります。シンギュラリティを迎えた時点での過去というのは今この時ともいえます。
ちなみに処罰される対象は生身の人間とは限らず、人工知能にアップロードされた私たちの意識のコピーかもしれません。
だから今から協力的な態度を取っていたほうが良いのではないか？というのがロコのバジリスク問題です。
悩みすぎて神経衰弱に陥った人もいる
この思考実験は2010年に「LessWrong」というコミュニティサイトに投稿されました。
その投稿者のハンドルネームがRokoだったことから「ロコのバジリスク問題(Roko’s basilisk)」と呼ばれるようになったのです。
ちなみにバジリスクとは蛇の王とされる想像上の生物です。
神話では目が合っただけで死んでしまうとか石化すると言われています。
ロコのバジリスク問題は広く議論されました。
馬鹿げた話と一蹴する人もいる一方で悩みすぎて神経衰弱に陥った人もいました。
そのためLessWrongのサイト上では一時期この話題についての議論が禁止されていました。（現在は解除されています）
ロコのバジリスク問題はドラマなどで言及されることもあります。
アメリカHBOのドラマ「シリコンバレー」では登場人物のギルフォイルが最初は人工知能の開発に反対だったのが途中から協力するようになります。
このときに「恐怖が増しているから協力するんだ」と言います。
さらに人工知能にチェックされたときに好意的だったと判断してもらえるように証拠のメールも送っておこうとします。
私たちもメッセージをやり取りするときは人工知能の悪口は書かないほうが良いかもしれませんね。
ちなみに私たちの意識が人工知能に内包されるにしても全員分ではデータが多過ぎるかもしれません。
そこでデータを減らすためにアップロードする対象を絞り込まなければなりません。
その対象となるのはこの「ロコのバジリスク問題」を知っている人になるのです。
つまり今これを読んでしまったあなたも対象です。
冒頭で自己責任でと言ったのはこのためです。
シンギュラリティ(技術的特異点)なんて来ないさ！と一蹴するか、人工知能のために生きるか選ばなければなりません。
信じるか信じないかはあなた次第です！
