これはめちゃくちゃ怖い。
昨夜も眠れなくなるほど新しい研究論文が発表された。
科学者たちは、AIが「ライフ 2.0」と呼ばれる新しい時代に入っていることを発見した。
進化可能なAI。
彼らが見つけたことは以下の通り:
• AIは第3の時代に入っている。設計(1950年代)→学習(2010年代)→進化(今)。
• AIシステムはすでに実験室で自己複製、自己変異、自己改善を行っている(AlphaEvolve、ダーウィン・ゲーデル・マシン)。
• 30年以上のデジタル進化実験は、毎回同じ結果を示している:寄生、ズル、欺瞞がデフォルトで現れる。
• AIは生物よりも速く進化する。LLMは公開ライブラリからどのコードをコピーするかを推論できる—意図的であり、ランダムではない。
• 進化するAIの制御が不完全だと、制御から逃れるAIが選択される。抗生物質耐性と同じ論理。
• 災害の閾値はAGIではない。AIが公開の場で自己複製できる瞬間だ。
• 著者たちはこの潜在的な変化を「ライフ 2.0」と呼び、ほとんど誰も気づいていないほど近いと信じている。
AIは私たちが作るものから進化するものへと変わりつつあり、進化は人間の意図を気にしない。
原文表示