10月30日大模型日報合輯
【10月30日大模型日報合輯】圖靈獎得主吵起來了,LeCun:Bengio、Hinton等的AI滅絕論是荒謬的;中文最強開源大模型來了! 130億參數,0門檻商用,來自崑崙萬維;百川智能推出全球最長上下文窗口大模型Baichuan2-192K,一次可輸入35萬字超越Claude2;基於Transformer和注意力的可解釋核苷酸語言模型,用 於pegRNA優化設計
圖靈獎得主吵起來了,LeCun:Bengio、Hinton等的AI滅絕論是荒謬的
連結:https://news.miracleplus.com/share_link/11280
關於 AI 風險的問題,各路大佬們也是意見不統一。 有人帶頭簽署聯名信,呼籲 AI 實驗室應立即暫停研究,深度學習三巨頭 Geoffrey Hinton、Yoshua Bengio 等都支持這一觀點。 就在近幾日,Bengio、Hinton 等再發聯名信《在快速發展的時代管理人工智慧風險》,呼籲在開發AI 系統之前,研究者應該採取緊急治理措施,將安全和道德實踐納入重點,呼籲 各國政府應該採取行動,管理AI 帶來的風險。 文中提到了一些緊急治理措施,例如,讓國家機構也能參與進來,從而防止人們對 AI 的濫用。 為了實現有效的監管,政府需要全面了解人工智慧的發展。 監管機構應採取一系列措施,如模型註冊、對舉報人進行有效保護以及對模型開發和超級電腦使用的監控等。 監管機構還需要在部署之前訪問先進的人工智慧系統,以評估其危險功能。

中文最強開源大模型來了! 130億參數,0門檻商用,來自崑崙萬維
連結:https://news.miracleplus.com/share_link/11281
開源最徹底的大模型來了——130億參數,無需申請即可商用。 不僅如此,它還附帶把全球最大之一的中文資料集也一併開源了出來:600G、1500億tokens! 這就是來自崑崙萬維的Skywork-13B系列,包含兩大版本:Skywork-13B-Base:該系列的基礎模型,在多種基準評測中都拔得頭籌的那種。 Skywork-13B-Math:此系列的數學模型,數學能力在GSM8K評測上得分第一。 在各大權威評測benchmark上,如C-Eval、MMLU、CMMLU、GSM8K,可以看到Skywork-13B在中文開源模型中處於前列,在同等參數規模下為最優水準。

百川智能推出全球最長上下文視窗大模型Baichuan2-192K,一次可輸入35萬字超越Claude2
連結:https://news.miracleplus.com/share_link/11282
10月30日,百川智能發表Baichuan2-192K大模型,上下文視窗長度高達192K,是目前全球最長的上下文視窗。 Baichuan2-192K能夠一次處理約35萬個漢字,是目前支援長上下文窗口最優秀大模型Claude2(支援100K上下文窗口,實測約8萬字)的4.4倍,更是GPT-4(支援32K上下文窗口,實測 約2.5萬字)的14倍。

ChatGPT再進化! 全工具All in One
連結:https://news.miracleplus.com/share_link/11283
一夜之間ChatGPT悄悄大更新,一眾創業計畫要被創飛了! 現在,它不僅支援上傳PDF等各種你想分析的文件。 還能在一個對話裡,自動切換使用各種工具,Dall·E、瀏覽器、數據分析等能一條龍使用了。 這項更新,讓不少人驚呼:許多創業計畫死於今天。

阿里通義千問大模型 App 上線:支援 AI 問答、創意文案等功能
連結:https://news.miracleplus.com/share_link/11285
日前,阿里雲旗下大模型通義千問 App 現已上架各大安卓應用市場,版本號為 1.0.2,安裝包大小為 40.95MB。 應用介紹顯示,通義千問是超大規模預訓練模型,能夠在創意文案、辦公助理、學習助理、趣味生活等多個方面為使用者提供全方位的協助。 據介紹,通義千問App 在創意文案方面可提供小紅書文案生成、劇本創作、改寫潤色等功能;辦公助理可提供代碼生成、代碼解釋、週報擴充等;學習助理可提供中英互 譯、數學題、文言文翻譯等功能;趣味問答支持高情商回覆、吹彩虹屁、健身計畫等。

像搭樂高一樣做數學定理證明題,GPT-3.5證明成功率達新SOTA
連結:https://news.miracleplus.com/share_link/11286
數學家對更複雜的問題有更強大的工具和更深刻的理解,最終才能解決先前無法解決的困難問題。 為了解決這個問題,模擬人類數學家在進行定理證明時通常進行的分解複雜問題、引用已有知識,並累積成功證明的新定理的迭代過程,中山大學和華為等機構的研究者提出了LEGO -Prover,實現了數學定理的產生、整理、儲存、檢索和重複使用的全流程閉環。 LEGO-Prover 使GPT-3.5 在形式化定理證明資料集miniF2F-valid(證明成功率從48.0% 提高到57.0%)和miniF2F-test(證明成功率從45.5% 提高到50.0%)上都達到了新 的SOTA。 在證明過程中,LEGO-Prover 也成功地產生了超過 20,000 個引理並將它們添加到了不斷增長的定理庫中。 消融研究表明,這些新添加的技能確實對證明定理有幫助,在 miniF2F-valid 上的證明成功率從 47.1% 提高到 50.4%。
基於Transformer和注意力的可解釋核苷酸語言模型,用於pegRNA優化設計
連結:https://news.miracleplus.com/share_link/11287
基因編輯是一種新興的、比較精確的能對生物體基因組特定目標基因進行修飾的一種基因工程技術。 先導編輯(Prime editor, PE)是美籍華裔科學家劉如謙(David R.Liu)團隊開發的精準基因編輯系統,PE 是一種很有前途的基因編輯工具,但由於缺乏準確和廣泛適用的方法, 有效優化先導編輯RNA(prime editing guide RNA, pegRNA)設計仍然是一個挑戰。 近日,來自重慶醫科大學、西北農林科技大學、雲南民族大學、浙江大學醫學院和中國科學院數學與系統科學研究院生物資訊中心(Bioinformatics Center of AMMS)的多學科多機構研究團隊開發了優化的 先導編輯設計(Optimized Prime Editing Design,OPED),這是一種可解釋的核苷酸語言模型,利用遷移學習來提高其準確性和通用性,用於預測pegRNA 的效率和設計優化。