5月6日 消息，一位曾任?OpenAI?安全研究人員的人正在發(fā)出警告，提醒人們?nèi)斯ぶ悄芸赡茏罱K導(dǎo)致人類(lèi)終結(jié)的嚴(yán)峻前景。

前OpenAI?基金會(huì)員工保羅·克里斯蒂亞諾在一個(gè)播客節(jié)目中說(shuō)，“我認(rèn)為人工智能取代人類(lèi)的可能性大約為10-20%，又或者大多數(shù)人類(lèi)已經(jīng)死亡，需要非常嚴(yán)肅對(duì)待這個(gè)問(wèn)題。”

克里斯蒂亞諾認(rèn)為機(jī)器會(huì)逐漸地崛起，人類(lèi)的終結(jié)不是一場(chǎng)突如其來(lái)的事件，而是人工智能逐漸地崛起，人類(lèi)與機(jī)器已經(jīng)透過(guò)諸如自動(dòng)駕駛汽車(chē)、無(wú)人機(jī)等已經(jīng)滲透到了生活中。而當(dāng)AI超越人類(lèi)智商閾值時(shí)，一切皆有可能。

克里斯蒂亞諾認(rèn)為，AI消滅人類(lèi)的最可能方式是日常生活中部署的所有AI聯(lián)合起來(lái)，而不是突然消滅人類(lèi)。

克里斯蒂亞諾的新非營(yíng)利組織 Alignment Research Center 基于人工智能對(duì)齊的概念，該概念早在2018年就被廣泛定義為讓機(jī)器的動(dòng)機(jī)與人類(lèi)的動(dòng)機(jī)保持一致。盡管 OpenAI 口頭上說(shuō)要對(duì)齊，聲稱(chēng)它“旨在使人工智能 （AGI） 與人類(lèi)價(jià)值觀保持一致并遵循人類(lèi)意圖”，但仍需要進(jìn)行更多的研究和開(kāi)發(fā)，以確保安全和合乎道德地開(kāi)發(fā)人工智能。確保機(jī)器的動(dòng)機(jī)與人類(lèi)的動(dòng)機(jī)一致對(duì)于防止人工智能毀滅的可能性至關(guān)重要。

關(guān)注公眾號(hào)：拾黑（shiheibook）了解更多

友情鏈接：

關(guān)注數(shù)據(jù)與安全，洞悉企業(yè)級(jí)服務(wù)市場(chǎng)：https://www.ijiandao.com/
安全、綠色軟件下載就上極速下載站：https://www.yaorank.com/