综合精品一区_超碰激情在线_a在线播放不卡_暖暖在线中文免费日本_成人免费毛片app_精品三级久久_欧美天堂在线观看_blacked蜜桃精品一区_涩涩视频免费网站_在线亚洲伦理

(相關(guān)資料圖)

“人工智能正以快速的步伐擴(kuò)展著人類的想象力。想象一下，未來(lái)十年，人工通用智能系統(tǒng)（簡(jiǎn)稱AGI）幾乎在每一個(gè)領(lǐng)域都超過(guò)了人類的專業(yè)知識(shí)，該系統(tǒng)最終可能超過(guò)所有大型公司的集體生產(chǎn)力。這將提高每一個(gè)人的生活水平，但同時(shí)，我們必須共同管理其可能帶來(lái)的風(fēng)險(xiǎn)。”

6月10日，在2023北京智源大會(huì)-AI安全與對(duì)齊論壇上，OpenAI聯(lián)合創(chuàng)始人Sam Altman發(fā)表了主題演講。

Sam Altman指出，AGI是一項(xiàng)關(guān)乎全球的技術(shù)，不計(jì)后果地開發(fā)和部署所帶來(lái)的事故成本將影響到每一個(gè)人。

通過(guò)國(guó)際合作和協(xié)調(diào)AGI 治理非常必要。他認(rèn)為有兩個(gè)關(guān)鍵領(lǐng)域：首先，在技術(shù)研發(fā)過(guò)程中建立平等、統(tǒng)一的國(guó)際規(guī)范和標(biāo)準(zhǔn)，以便所有國(guó)家都能使用AGI；其次，通過(guò)國(guó)際合作，以可驗(yàn)證的方式，建立全球?qū)θ找鎻?qiáng)大的人工智能系統(tǒng)安全開發(fā)的信任體系。

做到這兩點(diǎn)并不容易，Sam Altman表示，國(guó)際社會(huì)應(yīng)投入大量而持續(xù)的關(guān)注，而最具建設(shè)性的一步是，國(guó)際科技界應(yīng)該促進(jìn)在安全領(lǐng)域的技術(shù)進(jìn)步方面增加透明度和知識(shí)共享機(jī)制。當(dāng)ACI安全研究人員發(fā)現(xiàn)緊急問題后，應(yīng)及時(shí)分享他們的見解，以實(shí)現(xiàn)利益最大化?！拔覀冃枰伎嫉氖?，如何鼓勵(lì)這種制度，同時(shí)尊重保護(hù)知識(shí)產(chǎn)權(quán)，如果能夠?qū)崿F(xiàn)這一點(diǎn)，新世界的大門將為我們打開，使我們保持更加廣泛的合作。”

Sam Altman介紹了OpenAI在安全研究上的投入、促進(jìn)和引導(dǎo)。OpenAI正在推進(jìn)對(duì)齊研究，讓AGI與人類價(jià)值觀保持一致并遵循人類意圖。“我們通過(guò)來(lái)自人類反饋的強(qiáng)化學(xué)習(xí)來(lái)訓(xùn)練模型，使其成為一個(gè)有用而安全的助手。從ChatGPT推出到GPT-4完成，我們一共花了8個(gè)月的時(shí)間，目前來(lái)看進(jìn)展良好，GPT-4在對(duì)齊性上比以前的所有模型都要高。但對(duì)于未來(lái)更先進(jìn)的AI系統(tǒng)而言，對(duì)齊性仍然是一個(gè)懸而未決的問題，我認(rèn)為需要新的技術(shù)方法，并加強(qiáng)治理和監(jiān)管，我們想象一下，未來(lái)的 AGI 系統(tǒng)或許具有 10 萬(wàn)行二進(jìn)制代碼，人類監(jiān)管人員不太可能發(fā)現(xiàn)這樣的模型是否在做一些邪惡的事情。正因此，我們還投資了許多新的研究方向，希望可以實(shí)現(xiàn)擴(kuò)展和突破?！?/p>

Sam Altman認(rèn)為，使用人工智能來(lái)管理人工智能也許是一個(gè)好的思路，例如，人類可以訓(xùn)練一個(gè)模型來(lái)幫助自己發(fā)現(xiàn)其他模型輸出中的缺陷。另外，關(guān)于可解釋性的研究，Sam Altman相信，機(jī)器學(xué)習(xí)技術(shù)的進(jìn)步可以進(jìn)一步提高人類產(chǎn)生解釋的能力。

“我們的最終目標(biāo)是，培訓(xùn)人工智能系統(tǒng)來(lái)幫助對(duì)齊研究。獲得 AGI 帶來(lái)的非凡好處，同時(shí)降低風(fēng)險(xiǎn)，是我們這個(gè)時(shí)代的開創(chuàng)性挑戰(zhàn)之一。我們已經(jīng)看到了中國(guó)、美國(guó)以及其他世界各地的研究人員的巨大潛力，并期待共同努力實(shí)現(xiàn)同一個(gè)目標(biāo)，若能做到這一點(diǎn)，未來(lái)通過(guò)AGI解決世界難題并提高人類福祉，將指日可待?！盨am Altman表示。

（文章來(lái)源：21世紀(jì)經(jīng)濟(jì)報(bào)道）