10月30日ビッグモデル日報集

【10月30日ビッグモデル日報集】チューリング賞受賞者らが主張、ルカン:ベンジオ、ヒントンらのAI絶滅説は荒唐無稽、中国語で最強のオープンソースビッグモデル登場! Kunlun Wanwei からの 130 億パラメータ、商用利用の閾値 0; Baichuan Intelligent は、一度に 350,000 語を入力でき、Claude2 を超える世界最長のコンテキスト ウィンドウ大型モデル Baichuan2-192K を発表; Transformer と tention に基づく解釈可能なヌクレオチド言語モデル、pegRNA に最適化されたデザインを使用
チューリング賞受賞者らが主張、ルカン氏:ベンジオやヒントンらのAI絶滅説は荒唐無稽
リンク: https://news.miracleplus.com/share_link/11280
AIリスクの問題に関しては、各界の大物たちも異なる意見を持っている。 誰かが率先してAI研究機関に研究の即時中止を求める共同書簡に署名し、深層学習の3大巨頭、ジェフリー・ヒントン氏、ヨシュア・ベンジオ氏らは全員この見解を支持している。 つい最近、ベンジオ氏とヒントン氏らは「急速な発展の時代における人工知能のリスク管理」という共同書簡を発表し、研究者に対し、AIシステムを開発する前に緊急のガバナンス措置を講じ、安全性と倫理的慣行に重点を置くよう求めた。 AI によってもたらされるリスクを管理するためのアクション。 この記事では、AIの悪用を防ぐための国家機関の関与など、いくつかの緊急のガバナンス対策について言及しています。 効果的な規制を実現するには、政府が AI の開発を包括的に理解する必要があります。 規制当局は、モデルの登録、内部告発者の効果的な保護、モデル開発やスーパーコンピューターの使用状況の監視など、一連の措置を講じるべきである。 規制当局は、その危険な機能を評価するために、導入前に高度な AI システムにアクセスする必要もあります。

中国語の最も強力なオープンソース大規模モデルが登場! Kunlun Wanwei の 130 億パラメータ、商用利用の閾値ゼロ
リンク: https://news.miracleplus.com/share_link/11281
最も完全なオープンソースの大規模モデルがここにあります – 130 億のパラメータがあり、商用利用に申請する必要はありません。 それだけでなく、世界最大の中国データセットのオープンソースの 1 つである 600G、1,500 億トークンも付属しています。 これは Kunlun Wanwei の Skywork-13B シリーズで、2 つの主要なバージョンが含まれています。 Skywork-13B-Base: このシリーズの基本モデルであり、さまざまなベンチマークでトップになっているモデルです。 Skywork-13B-Math: このシリーズの数学的モデル。その数学的能力は GSM8K 評価で 1 位を獲得しました。 C-Eval、MMLU、CMMLU、GSM8K などの主要な権威ある評価ベンチマークでは、Skywork-13B が中国のオープンソース モデルの最前線にあり、同じパラメーター スケールの下で最適なレベルであることがわかります。

Baichuan Intelligent が、Claude2 を超える、一度に 350,000 語を入力できる世界最長のコンテキスト ウィンドウ モデル、Baichuan2-192K を発売
リンク: https://news.miracleplus.com/share_link/11282
10 月 30 日、Baichuan Intelligent は、コンテキスト ウィンドウの長さが最大 192K で、現在世界最長のコンテキスト ウィンドウである Baichuan2-192K 大型モデルをリリースしました。 Baichuan2-192K は、一度に約 350,000 個の漢字を処理できます。これは、現在長いコンテキスト ウィンドウをサポートする最高の大型モデルである Claude2 の 4.4 倍であり (100K コンテキスト ウィンドウをサポート、約 80,000 文字を測定)、GPT よりもさらに強力です。 -4 (32K コンテキスト ウィンドウをサポート、約 25,000 ワードの 14 倍に相当)。

ChatGPTがまた進化! オールインワン
リンク: https://news.miracleplus.com/share_link/11283
ChatGPT は一夜にして静かに更新され、多くの起業家プロジェクトが立ち上げられようとしていました。 今回は、PDF や分析したいその他のファイルのアップロードをサポートするだけではありません。 また、一度の会話で各種ツールの利用に自動で切り替わり、Dall・E、ブラウザ、データ分析などを一度に利用することができます。 このアップデートにより、多くの人が「今日、多くの起業家プロジェクトが消滅した」と叫んだ。

Alibaba Tongyi Qianwen Big Model App をリリース:AI Q&A、クリエイティブなコピーライティングなどの機能をサポート
リンク: https://news.miracleplus.com/share_link/11285
最近、Alibaba Cloud の大規模モデル「Tongyi Qianwen App」が主要 Android アプリケーション マーケットに並べられ、バージョン番号は 1.0.2、インストール パッケージ サイズは 40.95MB です。 アプリケーションの紹介では、Tongyi Qianwen が非常に大規模な事前トレーニング済みモデルであり、クリエイティブなコピーライティング、オフィスアシスタント、学習アシスタント、興味深い生活などの側面における包括的な支援をユーザーに提供できることが示されています。 報告によると、Tongyi Qianwenアプリは、小紅書コピーライティングの生成、スクリプトの作成、クリエイティブなコピーライティングの観点からリライトと磨きなどの機能を提供し、オフィスアシスタントはコード生成、コードの説明、週次レポートの拡張などを提供し、学習アシスタントは、中国語と英語のインタラクション 翻訳、数学の質問、古典中国語の翻訳などの機能を提供し、楽しい質問と回答が高い心の知能指数の反応、虹のおなら、フィットネス プランなどをサポートします。

レゴを組み立てるような数学の定理証明問題を実行し、GPT-3.5 で成功率が新しい SOTA に達することを証明する
リンク: https://news.miracleplus.com/share_link/11286
数学者はより強力なツールを備え、より複雑な問題をより深く理解し、最終的には以前は解決できなかった困難な問題を解決できるようになります。 この問題を解決し、複雑な問題を分解し、既存の知識を引用し、人間の数学者が定理を証明するときに通常行う、証明された新しい定理を蓄積するという反復プロセスをシミュレートするために、中山大学、ファーウェイ、その他の機関の研究者は、レゴを提案しました。 Prover は、数学定理の生成、並べ替え、保存、取得、再利用という閉ループ プロセス全体を実現します。 LEGO-Prover により、GPT-3.5 は形式定理証明データセット miniF2F-valid (証明成功率が 48.0% から 57.0% に増加) と miniF2F-test (証明成功率が 45.5% から 50.0% に増加) の両方で新しい結果を達成できるようになりました。 %).SOTA。 証明プロセス中に、LEGO-Prover は 20,000 を超える補題を生成し、増え続ける定理ライブラリに追加することにも成功しました。 アブレーション研究では、これらの新しく追加されたスキルが定理の証明に実際に役立ち、miniF2F-valid での証明成功率が 47.1% から 50.4% に増加したことが示されています。
Transformer に基づく解釈可能なヌクレオチド言語モデルと pegRNA 最適化設計への注目
リンク: https://news.miracleplus.com/share_link/11287
遺伝子編集は、生物のゲノム内の特定の標的遺伝子を変更できる、新興の比較的正確な遺伝子工学技術です。 Prime editor (PE) は、中国系アメリカ人の科学者 David R. Liu のチームによって開発された高精度遺伝子編集システムです。PE は有望な遺伝子編集ツールですが、正確で広く適用可能な方法が不足しているため、プライム編集ガイドを効果的に最適化しますRNA (pegRNA) の設計は依然として課題です。 最近、重慶医科大学、西北農林大学、雲南民族大学、浙江大学医学部、中国科学院数理システム科学研究所AMMSバイオインフォマティクスセンターからの学際的かつ多機関の研究チームが参加した。は、転移学習を使用して精度と汎用性を向上させる解釈可能なヌクレオチド言語モデルである、最適化された Optimized Prime Editing Design (OPED) を開発し、pegRNA の効率を予測し、設計を最適化するために使用されます。