AI是否會產生「意識」是科技界最熱議的話題之一。微軟AI CEO Mustafa Suleyman近日在一次對話中表示，未來18個月可能出現「看似有意識」的AI，他主張應對AI自主性堅持「預防原則」。
AI可能產生意識嗎？
如果可能，大概會在什么時間？
微軟AI CEO Mustafa Suleyman認為有可能誕生「看似有意識的AI」，而且最快可能在18個月內出現：
未來5年很有可能，18個月內也有一定可能性。
在近日的一次對話中，主持人Sinead Bovell問「看似有意識」的AI可能在什么時候出現，Suleyman給出了如上回答。
Sinead Bovell（左）與Mustafa Suleyman（右）在《I've Got Questions》欄目對話中
Suleyman曾多次談及AI意識的話題。
雖然他認為目前沒有任何可靠證據表明AI真正具有意識、痛苦、主觀體驗等特性，但他也認為「Seemingly Conscious AI（看似有意識的AI)」即將到來，而且對此采取「預防原則」是正確的。
Suleyman博客文章《看似有意識的AI》
AI意識與AI人格工程
目前，包括OpenAI、Anthropic、Google DeepMind在內的全球頂尖AI實驗室，都在積極推動AI人格的相關研究：
如AI的模范行為規范、可控人格、價值對齊等。
通過對各大實驗室和開源社區的研究，Suleyman列舉了以下幾種AI能力可能會讓AI看起來更像有意識：
-
連貫記憶：必須有一致而連貫的記憶，能真正引用自己過去的經歷，這是必要的第一步。
-
共情交流：能用自然語言以共情的方式交流。
-
主觀體驗：能提到自己的主觀體驗，并把這種體驗融入日常對話中形成一種持續的體驗流。
-
持續互動：不再只是一次性問答，而是像人類交流一樣持續互動，同時有源源不斷的感知流入。
雖然列出了這些AI意識的關鍵特征，但Suleyman并不贊在對AI設計時，過于強化和模擬這些「意識體驗」的特征：
「這樣既沒必要，也很危險。」