鳳凰網(wǎng)科技訊 5月13日，據(jù)《商業(yè)內(nèi)幕》報(bào)道，OpenAI前研究員、現(xiàn)任AI未來(lái)項(xiàng)目(AI Futures Project)負(fù)責(zé)人丹尼爾·科科塔伊洛(Daniel Kokotajlo)表示，AI行業(yè)正在競(jìng)相構(gòu)建各家公司自身尚未完全理解或控制的系統(tǒng)。

圖注：科科塔伊洛

科科塔伊洛在去年5月接受《商業(yè)內(nèi)幕》記者采訪(fǎng)時(shí)解釋說(shuō)，AI公司面臨的核心問(wèn)題是“對(duì)齊”問(wèn)題，即努力確保未來(lái)的AI系統(tǒng)能夠可靠地遵循人類(lèi)的指令和價(jià)值觀(guān)，即使它們?cè)谠S多領(lǐng)域的能力已經(jīng)超越人類(lèi)。

他表示，研究人員目前并不完全理解先進(jìn)AI模型在內(nèi)部如何做出決策，這種不確定性使得很難確保未來(lái)系統(tǒng)真正“對(duì)齊”并穩(wěn)定執(zhí)行人類(lèi)希望它完成的目標(biāo)。

“這在某種程度上可以說(shuō)是一個(gè)公開(kāi)的秘密，但我們還沒(méi)有一個(gè)真正可行的解決方案。”他在談到實(shí)施AI對(duì)齊時(shí)說(shuō)道。

科科塔伊洛在2022年至2024年在OpenAI從事預(yù)測(cè)研究工作，研究AI系統(tǒng)可能以多快的速度進(jìn)步，以及隨著企業(yè)構(gòu)建更強(qiáng)大的模型，可能會(huì)出現(xiàn)哪些經(jīng)濟(jì)、政治和安全風(fēng)險(xiǎn)，之后他離開(kāi)了該公司。

如今，他通過(guò)自己的非營(yíng)利研究機(jī)構(gòu)AI未來(lái)項(xiàng)目，專(zhuān)注于類(lèi)似的課題，重點(diǎn)分析AI系統(tǒng)可能以多快的速度發(fā)展，以及如果企業(yè)繼續(xù)優(yōu)先追求速度和競(jìng)爭(zhēng)，將會(huì)出現(xiàn)哪些風(fēng)險(xiǎn)。

“一旦超級(jí)智能被造出來(lái)，人類(lèi)將不再是這個(gè)星球的主導(dǎo)者，至少不再是默認(rèn)的主導(dǎo)者。”科科塔伊洛表示。

科科塔伊洛表示，許多人仍然低估了AI發(fā)展的速度，因?yàn)橄嚓P(guān)的討論聽(tīng)起來(lái)往往像科幻小說(shuō)。他的這一警告正值A(chǔ)I公司持續(xù)向更強(qiáng)大模型和更大規(guī)模數(shù)據(jù)中心投入數(shù)十億美元之際。