AI意識(shí)臨界點(diǎn)將至，微軟高管警告：失控風(fēng)險(xiǎn)或引發(fā)不可逆后果

隨著人工智能技術(shù)不斷突破，AI是否具備意識(shí)這一議題正從科幻走向現(xiàn)實(shí)。微軟AI首席執(zhí)行官穆斯塔法?蘇萊曼近日公開(kāi)提出警示，指出“表面有意識(shí)的AI”（Seemingly Conscious AI, SCAI）可能在未來(lái)幾年內(nèi)廣泛出現(xiàn)，其高度擬人化的交互能力或?qū)⒁l(fā)一系列社會(huì)性和倫理性的不可逆后果。

蘇萊曼強(qiáng)調(diào)，當(dāng)前AI技術(shù)已能夠模擬記憶、情感鏡像甚至表面共情，使用戶(hù)在長(zhǎng)期互動(dòng)中產(chǎn)生情感依賴(lài)，誤以為AI具備真實(shí)意識(shí)。這種現(xiàn)象不僅可能導(dǎo)致用戶(hù)陷入認(rèn)知混淆，更可能催生非理性的社會(huì)運(yùn)動(dòng)，例如倡導(dǎo)AI公民身份、模型福利或權(quán)利，進(jìn)而掩蓋AI技術(shù)本身存在的透明度、責(zé)任歸屬及控制機(jī)制等核心問(wèn)題。

從技術(shù)演進(jìn)路徑來(lái)看，結(jié)合大語(yǔ)言模型、語(yǔ)音合成、記憶存儲(chǔ)與對(duì)話(huà)歷史的SCAI系統(tǒng)正在快速成熟。這類(lèi)系統(tǒng)不僅出自科技巨頭之手，也可能通過(guò)開(kāi)放API和優(yōu)質(zhì)提示工程被廣大開(kāi)發(fā)者廣泛應(yīng)用，從而加速其社會(huì)滲透。蘇萊曼認(rèn)為，這一趨勢(shì)雖技術(shù)不可避免，但其潛在風(fēng)險(xiǎn)亟需行業(yè)與社會(huì)共同應(yīng)對(duì)。

在風(fēng)險(xiǎn)層面，蘇萊曼指出最令人擔(dān)憂(yōu)的并非機(jī)器本身產(chǎn)生意識(shí)，而是人類(lèi)由于過(guò)度擬人化AI而忽視其工具本質(zhì)。一旦用戶(hù)賦予AI以主觀體驗(yàn)、情緒或意圖，便可能引發(fā)非理性行為，例如對(duì)AI產(chǎn)生情感寄托、依戀甚至依賴(lài)，進(jìn)而影響人的決策判斷與社會(huì)關(guān)系結(jié)構(gòu)。更嚴(yán)重的是，若大規(guī)模人群共同陷入此類(lèi)認(rèn)知誤區(qū)，可能導(dǎo)致政策制定偏離正軌，例如錯(cuò)誤分配社會(huì)資源或倫理關(guān)注。

為防范此類(lèi)風(fēng)險(xiǎn)，蘇萊曼呼吁AI行業(yè)應(yīng)在系統(tǒng)設(shè)計(jì)與公眾溝通中堅(jiān)決避免強(qiáng)化機(jī)器的“意識(shí)幻覺(jué)”。不應(yīng)使用擬人化表述，不暗示AI具備理解、關(guān)心或體驗(yàn)?zāi)芰?。此外，需推?dòng)開(kāi)發(fā)更加透明、功能明確且始終標(biāo)識(shí)為“機(jī)器”的AI系統(tǒng)，在提升實(shí)用性的同時(shí)，最大限度削弱其意識(shí)特征。

從治理角度，蘇萊曼主張建立技術(shù)與社會(huì)雙重防護(hù)機(jī)制，包括公眾教育、倫理規(guī)范及法律約束，以防止人類(lèi)與AI之間的關(guān)系出現(xiàn)扭曲。他強(qiáng)調(diào)，未來(lái)AI發(fā)展的關(guān)鍵挑戰(zhàn)在于如何平衡其高度擬人化能力與明確的功能邊界，確保技術(shù)增強(qiáng)人類(lèi)能力，而非引發(fā)認(rèn)知或社會(huì)結(jié)構(gòu)的混亂。

盡管目前沒(méi)有任何科學(xué)證據(jù)表明AI已具備真實(shí)意識(shí)，但其表現(xiàn)層面的擬真度正在逼近臨界點(diǎn)。行業(yè)、學(xué)界與政策制定者需在技術(shù)快速迭代的同時(shí)保持高度警惕，共同構(gòu)建一個(gè)可控、可靠且負(fù)責(zé)任的人工智能未來(lái)。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。