11月20日大模型日報

資訊1年前 (2023)发布 AIWindVane

558 0 0

【11月20日大模型日報】原Open AI CEO Sam 和Greg Brockman 加入微軟，將領導一個新的高級人工智慧研究團隊；馬斯克：研發先進AI風險非常高OpneAI應公佈解僱奧特曼的原因； GPT-4V在自動駕駛上應用前景如何？面向真實場景的全面評測來了

原Open AI CEO Sam 和 Greg Brockman 加入微軟，將領導一個新的高階人工智慧研究團隊

https://news.miracleplus.com/share_link/11844

微軟公司重申了對與OpenAI合作的承諾，並對該組織的產品路線圖、創新能力以及對客戶和合作夥伴的支持表示了充分的信心。微軟在宣布這項消息時，特別強調了Microsoft Ignite會議上公佈的各項創新。此外，微軟對OpenAI新任領導團隊表示歡迎，特別期待與Emmett Shear及其團隊的合作。最引人注目的是，Sam Altman和Greg Brockman將加入微軟，領導一個全新的高階人工智慧研究團隊。這一動態被視為微軟在人工智慧領域的重大投資和策略佈局。微軟在聲明中表示，他們將迅速採取行動，為Altman、Brockman及其團隊提供成功所需的資源。這顯示微軟對高階人工智慧研究的承諾不僅限於財務支持，還包括提供必要的技術和人才資源。

馬斯克：研發先進AI風險非常高 OpneAI應公佈解僱奧特曼的原因

https://news.miracleplus.com/share_link/11845

特斯拉執行長馬斯克（Elon Musk）表示，由於研發先進人工智慧（AI）技術的潛在危險非常高，作為目前世界上最強大的人工智慧公司，OpenAI應該解釋其解僱其執行長薩姆·奧特曼（Sam Altman）的原因。

OpenAI安全系統負責人長文梳理：大模型的對抗攻擊與防禦

https://news.miracleplus.com/share_link/11846

LLM 能力強大，倘若別有用心之人用其來幹壞事，可能會造成難以預料的嚴重後果。雖然大多數商用和開源 LLM 都存在一定的內建安全機制，但卻不一定能防禦形式各異的對抗攻擊。近日，OpenAI 安全系統（Safety Systems）團隊負責人 Lilian Weng 發布了一篇部落格文章《Adversarial Attacks on LLMs》，梳理了針對 LLM 的對抗攻擊類型並簡單介紹了一些防禦方法。

GPT-4V在自動駕駛上應用前景如何？面向真實場景的全面評測來了

https://news.miracleplus.com/share_link/11847

GPT-4V 的發布讓許多電腦視覺（CV）應用看到了新的可能性。一些研究人員開始探索 GPT-4V 的實際應用潛力。最近，一篇題為《On the Road with GPT-4V (ision): Early Explorations of Visual-Language Model on Autonomous Driving》的論文針對自動駕駛場景對GPT-4V 的能力進行了難度遞增的測試，從情景理解到推理，再到作為真實場景駕駛員的連續判斷和決策。

谷歌Bard「破防」，用自然語言破解，提示注入造成資料外洩風險

https://news.miracleplus.com/share_link/11848

大型語言模型在生成文字時非常依賴提示詞。這種攻擊技術對於透過提示詞學習模型而言可謂是「以彼之矛，攻己之盾」，是最強長項，同時也是難以防範的軟肋。提示詞分為系統指令和使用者給予的指令，在自然語言中，這兩者難以區分。如果使用者有意在輸入提示詞時，模仿系統指令，那麼模型可能在對話中透露一些只有它才知道的「秘密」。提示注入攻擊有多種形式，主要為直接提示注入和間接提示注入。直接提示注入指使用者直接向模型輸入惡意指令，試圖引發意外或有害的行為。間接提示注入指攻擊者將惡意指令注入到可能被模型檢索或攝取的文件中，從而間接地控製或引導模型。

真正實現一步文生圖，GoogleUFOGen極速採樣，產生高品質影像

https://news.miracleplus.com/share_link/11849

最近一年來，以 Stable Diffusion 為代表的一系列文生圖擴散模型徹底改變了視覺創作領域。數不清的使用者透過擴散模型產生的圖片提升生產力。但是，擴散模型的生成速度是一個老生常談的問題。因為降噪模型依賴多步驟降噪來逐漸將初始的高斯雜訊變為圖片，因此需要對網路進行多次計算，導致生成速度很慢。這導致大規模的文生圖擴散模型對一些注重即時性，互動性的應用非常不友善。隨著一系列技術的提出，從擴散模型中採樣所需的步數已經從最初的幾百步，到幾十步，甚至只需要 4-8 步。最近，來自Google的研究團隊提出了 UFOGen 模型，一種能極速採樣的擴散模型變種。透過論文提出的方法對 Stable Diffusion 進行微調，UFOGen 只需要一步就能產生高品質的圖片。同時，Stable Diffusion 的下游應用，比如圖生圖，ControlNet 等能力也能保留。