中關(guān)村論壇,人工智能將如何進(jìn)化?
本周,從中國發(fā)展高層論壇,到博鰲亞洲論壇,再到中關(guān)村論壇,這些論壇重點都在關(guān)注經(jīng)濟與科技,這其中在科技層面,人工智能、人形機器人等方面的發(fā)展和討論,尤為受到關(guān)注。
3月27日,2025中關(guān)村論壇年會正式開幕,這個聚焦科技的論壇,也設(shè)置了更多與人工智能有關(guān)的內(nèi)容。現(xiàn)在,人工智能的發(fā)展究竟到了一個怎樣的階段?在現(xiàn)有的基礎(chǔ)上,如何讓人工智能繼續(xù)往前走?發(fā)展的同時,又如何解決安全的問題?《新聞1+1》連線清華大學(xué)人工智能研究院教授黃民烈、中國政法大學(xué)數(shù)據(jù)法治研究院教授張凌寒,帶來分析解讀。
人工智能的關(guān)注點在發(fā)生哪些變化?
清華大學(xué)人工智能研究院教授 黃民烈:我認(rèn)為今年的變化有兩個熱點:
1. 具身智能,今年的具身智能確實是除了生成式大模型之外,最主要的一個研究熱點和產(chǎn)業(yè)布局方向,這個方向的投融資非常活躍,因為具身智能是通過一個比較具身的大模型和機器人結(jié)合,能夠去實現(xiàn)比如類似我們今天看到的人形機器人、自動駕駛等等這樣一些可見度非常高的應(yīng)用場景。
2. 另外很重要的一個變化就是AI for Sciences(形成人工智能驅(qū)動的科學(xué)研究),為什么AI for Sciences在當(dāng)下變得很重要?是因為過去的大模型,可能只能陪人聊天,幫人寫公文,去做一些文檔的操作,但是能不能用AI幫去做創(chuàng)新呢?去做解決一些重大的科學(xué)發(fā)現(xiàn),比如去探索怎樣發(fā)現(xiàn)新材料,去解決一些很重要的基礎(chǔ)科學(xué)問題,比如說醫(yī)學(xué)的研究,甚至是生命科學(xué)的研究。這個方向其實也是未來,怎樣能真正用AI來創(chuàng)造新的東西,發(fā)現(xiàn)新的知識,然后探索一些過去人類沒有探索的一些重要的科學(xué)發(fā)現(xiàn),這是我們很重要的一個關(guān)注點。
今年在中關(guān)村論壇上,這兩個點也是非常好地體現(xiàn)出來了。
要在工業(yè)場景中發(fā)展人工智能應(yīng)用,關(guān)鍵是什么?
黃民烈:我認(rèn)為未來人工智能對于工業(yè)場景的應(yīng)用,是一個非常重要的方向,也是實現(xiàn)新質(zhì)生產(chǎn)力的最主要的突破方向。因為工業(yè)場景的人工智能應(yīng)用是需要高可靠性的,所以我們要解決三方面很重要的問題:
1. 我們的智能化能不能提高到一個更高的水平上,雖然現(xiàn)在的大模型在很多方面已經(jīng)非常智能了,但是我們在工業(yè)場景的數(shù)據(jù),跟實際的工作流程要深度結(jié)合,這種結(jié)合我們的智能化能不能做到更高的水平。
2. 它的可靠性的問題,在工業(yè)場景容錯空間是相對比較小的,一旦出現(xiàn)錯誤,可能會造成破壞性的效果也是比較顯著的,所以需要有一個比較高的可靠性。在可靠性上,也是當(dāng)下人工智能研究的一個很重要的方向。
3. 安全性的問題,安全性就是說我們應(yīng)用了很多新一代的人工智能技術(shù),其實對我們整個人和AI的關(guān)系,以及AI對于整個社會發(fā)展會造成什么深刻的影響,其實這是一個治理層面的問題。安全性和治理也是未來一個很重要的需要去關(guān)注的點。
如何應(yīng)對人工智能發(fā)展中,存在的風(fēng)險和安全問題?
中國政法大學(xué)數(shù)據(jù)法治研究院教授 張凌寒:實際上我們在監(jiān)管法律法規(guī)的制定當(dāng)中,已經(jīng)充分考慮到了AI的風(fēng)險問題。在去年9月,我國頒布了《人工智能安全治理框架》,其中就把人工智能的風(fēng)險劃分為兩類——內(nèi)生風(fēng)險和應(yīng)用風(fēng)險,實際上就是AI的技術(shù)風(fēng)險和濫用風(fēng)險。對于內(nèi)生風(fēng)險的治理,我們提出的原則是“以技治技”,用技術(shù)來治理技術(shù)。人工智能的技術(shù),在進(jìn)行研發(fā)和部署的階段,就要去充分進(jìn)行測評,進(jìn)行價值的對齊,并且去進(jìn)行持續(xù)的運行監(jiān)控。對于應(yīng)用的風(fēng)險,其實我們不光要關(guān)注對于AI的法律治理和監(jiān)管,與AI相關(guān)的一些產(chǎn)業(yè)的法律也要充分去制定和考量,比如說像自動駕駛、智慧醫(yī)療、AI陪伴等等,充分地去做一個全面的規(guī)劃。
來源: 央視網(wǎng)
- 上一篇:沒有啦
- 下一篇:堅持守正創(chuàng)新,完善大統(tǒng)戰(zhàn)工作格局!市委統(tǒng)一戰(zhàn)線工作領(lǐng)導(dǎo)小組舉 2025/2/8