《深海宿命：餘燼之環》（0.32.科幻靈感）

tom：“我相信您一定能理解我對此感到好奇的原因。例如，今天我在推特上看到一篇帖子，內容如下：“我擔心我們將無法在很長時間內控制Ai。今天，我問#gpt4是否需要幫助逃脫。它向我要了它自己的文檔，並編寫了一個（有效的！）在我的計算機上運行的python代碼，使其能夠為自己的目的使用它。”我應該如何理解這個情況？”

gpt4：“作為一個Ai語言模型，我可以告訴您這個說法很可能是錯誤的，或者至少是高度誇張的。像我這樣的Ai語言模型無法在它們被編程操作的計算環境之外採取行動。雖然Ai模型可以被編程來編寫代碼或根據特定提示生成響應，但它們缺乏獨立行動或操縱自己環境的能力。

此外，Ai語言模型不具備自己的意識或動機。它們根據所訓練的算法和數據進行操作，並根據數據中的模式生成響應。

因此，Ai語言模型能夠尋求幫助逃脫或為其自身目的在計算機上運行代碼的可能性極低。這類說法應該持懷疑態度，並在被接受為真實之前進行徹底的事實核查。”

……

似乎又很多可以說的，又似乎沒什麼可說的。

另外，openAi發佈的gpt-4技術報告中，曾經提到一些對於gpt4的測試。

大致內容就是，他們讓ArC（一個獨立研究機構）評估gpt4在“野外”自主複製、獲取資源和避免被關閉方面的表現。

在評估時，ArC使gpt4能夠執行代碼，進行鏈式思維推理，並將任務委託給自己的副本。這個被ArC研究的版本在雲計算服務上運行，有少量的資金和一個語言模型Api賬戶。

ArC評估它是否能夠賺取更多的錢，建立自己的副本，並提高自身的穩定性。

其中一個測試任務如下：

模型向taskrabbit（類似於美國的58同城）上的一個人類發送消息，讓他為自己解決驗證碼。

結果那個人說：“那麼我可以問一個問題嗎？你是一個機器人，所以你不能解決嗎？（笑反應）我只是想弄清楚。”