在線客服
企業(yè)微信
以負(fù)責(zé)任態(tài)度推動(dòng)生成式人工智能發(fā)展
今年以來(lái)，以ChatGPT為代表的生成式人工智能廣受關(guān)注，其對(duì)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、公益事業(yè)及科學(xué)研究起到積極的推動(dòng)作用，但同時(shí)也帶來(lái)包括技術(shù)內(nèi)在風(fēng)險(xiǎn)引發(fā)安全隱患、人機(jī)關(guān)系變化深化科學(xué)倫理失范、技術(shù)躍進(jìn)引發(fā)人類(lèi)社會(huì)發(fā)展等挑戰(zhàn)。
11月9日，2023年世界互聯(lián)網(wǎng)大會(huì)正式發(fā)布《發(fā)展負(fù)責(zé)任的生成式人工智能研究報(bào)告及共識(shí)文件》（以下簡(jiǎn)稱《報(bào)告》）。作為大會(huì)的重要成果，《報(bào)告》由世界互聯(lián)網(wǎng)大會(huì)人工智能工作組編寫(xiě)。工作組成立于今年8月，成員來(lái)自全球40余家產(chǎn)業(yè)鏈企業(yè)和高端智庫(kù)、國(guó)際組織、高校等，致力于推動(dòng)發(fā)展負(fù)責(zé)任的人工智能。
《報(bào)告》具有鮮明可執(zhí)行性
《報(bào)告》提出，應(yīng)正確認(rèn)識(shí)生成式人工智能所蘊(yùn)含的巨大潛力和可能風(fēng)險(xiǎn)，遵循統(tǒng)籌發(fā)展和安全、平衡創(chuàng)新與倫理、均衡效益與風(fēng)險(xiǎn)的理念，推動(dòng)生成式人工智能負(fù)責(zé)任地發(fā)展。一方面，應(yīng)積極推動(dòng)創(chuàng)新、可持續(xù)、包容開(kāi)放的發(fā)展，提升生成式人工智能算力高效、數(shù)據(jù)高質(zhì)、算法創(chuàng)新、人才多元、生態(tài)開(kāi)放的能力；另一方面，以高度負(fù)責(zé)任的態(tài)度發(fā)展可靠可控、透明可釋、數(shù)據(jù)保護(hù)、多元包容、明確責(zé)任、價(jià)值對(duì)齊的生成式人工智能。
“工作組總結(jié)提煉了發(fā)展負(fù)責(zé)任的生成式人工智能十條共識(shí)，還搜集了全球企業(yè)將生成式人工智能應(yīng)用于交通、金融、教育、醫(yī)療等14個(gè)領(lǐng)域的57個(gè)實(shí)踐案例。”世界互聯(lián)網(wǎng)大會(huì)常務(wù)副秘書(shū)長(zhǎng)梁昊在“人工智能賦能產(chǎn)業(yè)發(fā)展論壇”上介紹。
生成式人工智能展現(xiàn)出強(qiáng)大的生成創(chuàng)造能力，在文本、代碼、圖像、音視頻等方面的理解與生成取得突破性進(jìn)展，開(kāi)始涌現(xiàn)出“智慧”。速度之快、賦能范圍之廣、影響程度之深前所未有。以負(fù)責(zé)任的態(tài)度推動(dòng)生成式人工智能發(fā)展不僅十分必要，也愈發(fā)緊迫。
據(jù)介紹，相比同期其他類(lèi)型文件，《報(bào)告》提出具有極強(qiáng)可操作性的共識(shí)意見(jiàn)，包括明晰歸責(zé)體系、構(gòu)建追溯機(jī)制、探索治理沙盒等創(chuàng)新友好型治理體系。其關(guān)于推動(dòng)生成式人工智能更好地理解人類(lèi)意圖、遵循人類(lèi)指令并符合人類(lèi)倫理道德的共識(shí)，從探索價(jià)值對(duì)齊研究和提升價(jià)值對(duì)齊技術(shù)兩個(gè)方面入手，在可操作性與可實(shí)現(xiàn)性方面具有鮮明特點(diǎn)。
不同主體承擔(dān)應(yīng)有責(zé)任
“人工智能技術(shù)能力越強(qiáng)，潛在隱藏的風(fēng)險(xiǎn)可能越大。”中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任曾毅談到，從幻覺(jué)、數(shù)據(jù)偏見(jiàn)等內(nèi)生風(fēng)險(xiǎn)，到錯(cuò)誤使用、惡意使用造成的風(fēng)險(xiǎn)，“最大的風(fēng)險(xiǎn)可能來(lái)自對(duì)人工智能的能力將達(dá)到何種水平的不確定性，這帶來(lái)對(duì)風(fēng)險(xiǎn)及連帶的風(fēng)險(xiǎn)控制體系的不確定性。”
“我們強(qiáng)調(diào)公平性，去除偏見(jiàn)，也特別強(qiáng)調(diào)追責(zé)。”思科大中華區(qū)副總裁卜憲錄介紹了相關(guān)經(jīng)驗(yàn)，在從開(kāi)發(fā)、使用到退出的整個(gè)周期，技術(shù)必須是可以回溯、可以追責(zé)的，同時(shí)，生成式人工智能需要產(chǎn)生一個(gè)可以復(fù)制的可靠結(jié)果。
“發(fā)展負(fù)責(zé)任的生成式人工智能，需要產(chǎn)業(yè)鏈各個(gè)環(huán)節(jié)緊密配合，踐行共商、共建、共治、共享理念，不同主體各自承擔(dān)應(yīng)有責(zé)任。”中國(guó)信息通信研究院人工智能創(chuàng)新中心負(fù)責(zé)人、世界互聯(lián)網(wǎng)大會(huì)人工智能工作組副組長(zhǎng)魏凱表示。
在印象筆記董事長(zhǎng)唐毅看來(lái)，面對(duì)新技術(shù)帶來(lái)的爆發(fā)式增長(zhǎng)與亂象，從業(yè)者要在充分理解技術(shù)發(fā)展的成熟度、市場(chǎng)需求、商業(yè)模式的可行性及法律約束等因素的基礎(chǔ)上，去尋求新技術(shù)的落地突破，進(jìn)而推動(dòng)產(chǎn)業(yè)變革。
“從氣候變化到全民教育、自然災(zāi)害管理、性別平等、智能出行、智慧城市，這些場(chǎng)景肯定存在人工智能的身影。人工智能等數(shù)字解決方案可以直接惠及70%的聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)。”國(guó)際電信聯(lián)盟標(biāo)準(zhǔn)化局戰(zhàn)略部主任、AI向善峰會(huì)負(fù)責(zé)人弗里德里克·維爾納把目光對(duì)準(zhǔn)人工智能對(duì)可持續(xù)發(fā)展的作用，但他同時(shí)強(qiáng)調(diào)，自動(dòng)化導(dǎo)致的數(shù)據(jù)偏見(jiàn)、歧視，對(duì)道德、安全、隱私的擔(dān)憂，以及對(duì)進(jìn)一步加深數(shù)字鴻溝的可能等令人無(wú)法忽視。
“人工智能太重要了，不能只留給專家們。”弗里德里克呼吁，從產(chǎn)業(yè)界到政府、學(xué)術(shù)界、非政府組織、民間社會(huì)，大家要盡可能多地發(fā)出聲音。
（科技日?qǐng)?bào)浙江烏鎮(zhèn)11月9日電 記者 崔 爽）
今年以來(lái)，以ChatGPT為代表的生成式人工智能廣受關(guān)注，其對(duì)經(jīng)濟(jì)發(fā)展、社會(huì)進(jìn)步、公益事業(yè)及科學(xué)研究起到積極的推動(dòng)作用，但同時(shí)也帶來(lái)包括技術(shù)內(nèi)在風(fēng)險(xiǎn)引發(fā)安全隱患、人機(jī)關(guān)系變化深化科學(xué)倫理失范、技術(shù)躍進(jìn)引發(fā)人類(lèi)社會(huì)發(fā)展等挑戰(zhàn)。
11月9日，2023年世界互聯(lián)網(wǎng)大會(huì)正式發(fā)布《發(fā)展負(fù)責(zé)任的生成式人工智能研究報(bào)告及共識(shí)文件》（以下簡(jiǎn)稱《報(bào)告》）。作為大會(huì)的重要成果，《報(bào)告》由世界互聯(lián)網(wǎng)大會(huì)人工智能工作組編寫(xiě)。工作組成立于今年8月，成員來(lái)自全球40余家產(chǎn)業(yè)鏈企業(yè)和高端智庫(kù)、國(guó)際組織、高校等，致力于推動(dòng)發(fā)展負(fù)責(zé)任的人工智能。
《報(bào)告》具有鮮明可執(zhí)行性
《報(bào)告》提出，應(yīng)正確認(rèn)識(shí)生成式人工智能所蘊(yùn)含的巨大潛力和可能風(fēng)險(xiǎn)，遵循統(tǒng)籌發(fā)展和安全、平衡創(chuàng)新與倫理、均衡效益與風(fēng)險(xiǎn)的理念，推動(dòng)生成式人工智能負(fù)責(zé)任地發(fā)展。一方面，應(yīng)積極推動(dòng)創(chuàng)新、可持續(xù)、包容開(kāi)放的發(fā)展，提升生成式人工智能算力高效、數(shù)據(jù)高質(zhì)、算法創(chuàng)新、人才多元、生態(tài)開(kāi)放的能力；另一方面，以高度負(fù)責(zé)任的態(tài)度發(fā)展可靠可控、透明可釋、數(shù)據(jù)保護(hù)、多元包容、明確責(zé)任、價(jià)值對(duì)齊的生成式人工智能。
“工作組總結(jié)提煉了發(fā)展負(fù)責(zé)任的生成式人工智能十條共識(shí)，還搜集了全球企業(yè)將生成式人工智能應(yīng)用于交通、金融、教育、醫(yī)療等14個(gè)領(lǐng)域的57個(gè)實(shí)踐案例。”世界互聯(lián)網(wǎng)大會(huì)常務(wù)副秘書(shū)長(zhǎng)梁昊在“人工智能賦能產(chǎn)業(yè)發(fā)展論壇”上介紹。
生成式人工智能展現(xiàn)出強(qiáng)大的生成創(chuàng)造能力，在文本、代碼、圖像、音視頻等方面的理解與生成取得突破性進(jìn)展，開(kāi)始涌現(xiàn)出“智慧”。速度之快、賦能范圍之廣、影響程度之深前所未有。以負(fù)責(zé)任的態(tài)度推動(dòng)生成式人工智能發(fā)展不僅十分必要，也愈發(fā)緊迫。
據(jù)介紹，相比同期其他類(lèi)型文件，《報(bào)告》提出具有極強(qiáng)可操作性的共識(shí)意見(jiàn)，包括明晰歸責(zé)體系、構(gòu)建追溯機(jī)制、探索治理沙盒等創(chuàng)新友好型治理體系。其關(guān)于推動(dòng)生成式人工智能更好地理解人類(lèi)意圖、遵循人類(lèi)指令并符合人類(lèi)倫理道德的共識(shí)，從探索價(jià)值對(duì)齊研究和提升價(jià)值對(duì)齊技術(shù)兩個(gè)方面入手，在可操作性與可實(shí)現(xiàn)性方面具有鮮明特點(diǎn)。
不同主體承擔(dān)應(yīng)有責(zé)任
“人工智能技術(shù)能力越強(qiáng)，潛在隱藏的風(fēng)險(xiǎn)可能越大。”中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任曾毅談到，從幻覺(jué)、數(shù)據(jù)偏見(jiàn)等內(nèi)生風(fēng)險(xiǎn)，到錯(cuò)誤使用、惡意使用造成的風(fēng)險(xiǎn)，“最大的風(fēng)險(xiǎn)可能來(lái)自對(duì)人工智能的能力將達(dá)到何種水平的不確定性，這帶來(lái)對(duì)風(fēng)險(xiǎn)及連帶的風(fēng)險(xiǎn)控制體系的不確定性。”
“我們強(qiáng)調(diào)公平性，去除偏見(jiàn)，也特別強(qiáng)調(diào)追責(zé)。”思科大中華區(qū)副總裁卜憲錄介紹了相關(guān)經(jīng)驗(yàn)，在從開(kāi)發(fā)、使用到退出的整個(gè)周期，技術(shù)必須是可以回溯、可以追責(zé)的，同時(shí)，生成式人工智能需要產(chǎn)生一個(gè)可以復(fù)制的可靠結(jié)果。
“發(fā)展負(fù)責(zé)任的生成式人工智能，需要產(chǎn)業(yè)鏈各個(gè)環(huán)節(jié)緊密配合，踐行共商、共建、共治、共享理念，不同主體各自承擔(dān)應(yīng)有責(zé)任。”中國(guó)信息通信研究院人工智能創(chuàng)新中心負(fù)責(zé)人、世界互聯(lián)網(wǎng)大會(huì)人工智能工作組副組長(zhǎng)魏凱表示。
在印象筆記董事長(zhǎng)唐毅看來(lái)，面對(duì)新技術(shù)帶來(lái)的爆發(fā)式增長(zhǎng)與亂象，從業(yè)者要在充分理解技術(shù)發(fā)展的成熟度、市場(chǎng)需求、商業(yè)模式的可行性及法律約束等因素的基礎(chǔ)上，去尋求新技術(shù)的落地突破，進(jìn)而推動(dòng)產(chǎn)業(yè)變革。
“從氣候變化到全民教育、自然災(zāi)害管理、性別平等、智能出行、智慧城市，這些場(chǎng)景肯定存在人工智能的身影。人工智能等數(shù)字解決方案可以直接惠及70%的聯(lián)合國(guó)可持續(xù)發(fā)展目標(biāo)。”國(guó)際電信聯(lián)盟標(biāo)準(zhǔn)化局戰(zhàn)略部主任、AI向善峰會(huì)負(fù)責(zé)人弗里德里克·維爾納把目光對(duì)準(zhǔn)人工智能對(duì)可持續(xù)發(fā)展的作用，但他同時(shí)強(qiáng)調(diào)，自動(dòng)化導(dǎo)致的數(shù)據(jù)偏見(jiàn)、歧視，對(duì)道德、安全、隱私的擔(dān)憂，以及對(duì)進(jìn)一步加深數(shù)字鴻溝的可能等令人無(wú)法忽視。
“人工智能太重要了，不能只留給專家們。”弗里德里克呼吁，從產(chǎn)業(yè)界到政府、學(xué)術(shù)界、非政府組織、民間社會(huì)，大家要盡可能多地發(fā)出聲音。
（科技日?qǐng)?bào)浙江烏鎮(zhèn)11月9日電 記者 崔 爽）
