擔心傳播不良信息，美政府研究是否監管ChatGPT等AI技術(shù)-焦點(diǎn)速遞

美國政府已開(kāi)始研究是否需要監管ChatGPT。

(資料圖)

當地時(shí)間4月11日，據《華爾街日報》報道，由于人們越發(fā)擔心ChatGPT等人工智能技術(shù)可能會(huì )被用于歧視或傳播有害信息，拜登政府已經(jīng)開(kāi)始研究是否需要對這類(lèi)工具進(jìn)行限制。

美國商務(wù)部4月11日就相關(guān)的問(wèn)責措施正式公開(kāi)征求意見(jiàn)，包括具有潛在風(fēng)險的新型人工智能模型在發(fā)布前是否應該進(jìn)行核準認證程序。這被視作是邁出對人工智能領(lǐng)域實(shí)行潛在監管的第一步。

ChatGPT等人工智能工具可以快速生成類(lèi)似人類(lèi)使用的文字、圖像與視頻等。人工智能實(shí)驗室OpenAI于2022年11月推出的聊天機器人ChatGPT，在短短兩個(gè)月內活躍用戶(hù)達到1億，成為史上增長(cháng)最快的消費者應用程序。

“這些工具即便在起步階段就能做到這些，這真令人驚訝?！?美國商務(wù)部下屬機構國家電信與信息管理局局長(cháng)艾倫·戴維森（Alan Davidson）說(shuō)，“我們知道，我們需要設置一些界限，來(lái)確保這些技術(shù)被負責任地使用?！?/p>

據戴維森介紹，征求意見(jiàn)的期限為60天，這些意見(jiàn)有助于向美國的政策制定者提供有關(guān)如何處理人工智能的建議。戴維森補充稱(chēng)，其所在的機構負責就技術(shù)政策向美國總統提供建議，而非撰寫(xiě)或執行法規。

目前，科技行業(yè)和政府官員已對人工智能技術(shù)潛在的危害表示擔憂(yōu)，包括使用該技術(shù)犯罪或是傳播虛假信息。

美國科羅拉多州民主黨參議員Michael Bennet特別關(guān)心兒童的安全。上個(gè)月，Bennet給幾家人工智能公司寫(xiě)信，詢(xún)問(wèn)有關(guān)公共實(shí)驗的情況。在那些實(shí)驗中，聊天機器人向裝成年輕人的用戶(hù)提供了令人不安的建議。

“人工智能到底是能為我們帶來(lái)極大的好處，還是造成災難性的后果，人們正針對這個(gè)話(huà)題進(jìn)行激烈討論?！?康涅狄格州民主黨參議員Richard Blumenthal在接受采訪(fǎng)時(shí)表示，“這對國會(huì )來(lái)說(shuō)是終極挑戰，一個(gè)高度復雜、極具技術(shù)性的挑戰，且事關(guān)重大，極為緊迫?！?/p>

拜登上周在白宮與一個(gè)科學(xué)家顧問(wèn)委員會(huì )討論了這一話(huà)題。當有記者問(wèn)及人工智能技術(shù)是否有危險時(shí)，拜登表示：“還有待觀(guān)察，有可能（有危險）?！?/p>

據介紹，顧問(wèn)委員會(huì )的成員包括來(lái)自微軟和谷歌的代表。這兩大科技巨頭和其他發(fā)布人工智能系統的公司表示，他們正不斷更新安全界限，比方說(shuō)通過(guò)編程讓聊天機器人不回答某些問(wèn)題。

值得一提的是，當地時(shí)間4月10日，據美國數字新聞網(wǎng)站 Axios報道，知情人士透露，著(zhù)名科技投資人Ron Conway的投資公司SV Angel將于4月12日召集舊金人工智能山AI公司的高層討論人工智能政策問(wèn)題，OpenAI、微軟、谷歌、蘋(píng)果、英偉達、Stability AI、Hugging Face、Anthropic等公司的高管與政策代表將出席該會(huì )議，討論如何負責任地開(kāi)發(fā)AI、分享最好的實(shí)踐案例，并商討相關(guān)的公共政策框架和標準。

就在3月29日，埃隆·馬斯克（Elon Musk）等千名業(yè)界和學(xué)界人士聯(lián)署公開(kāi)信，呼吁所有人工智能實(shí)驗室立即暫停訓練比GPT-4更強大的AI系統，暫停至少6個(gè)月，以便制定和實(shí)施安全協(xié)議。

據悉，美國金融部門(mén)的監管機構已經(jīng)對貸款機構如何利用人工智能來(lái)承銷(xiāo)貸款進(jìn)行調查，希望防止對少數群體的歧視。此外，美國司法部反壟斷部門(mén)表示，該部門(mén)正在監控人工智能領(lǐng)域的競爭。聯(lián)邦貿易委員會(huì )則警告這些科技公司，它們可能會(huì )因對人工智能產(chǎn)品做出虛假的或未經(jīng)證實(shí)的聲明而面臨法律后果。

免責聲明：本文不構成任何商業(yè)建議，投資有風(fēng)險，選擇需謹慎！本站發(fā)布的圖文一切為分享交流，傳播正能量，此文不保證數據的準確性，內容僅供參考

關(guān)鍵詞：