[10 月 31 日のビッグ モデル デイリー] 「AI ビッグ モデルの分野におけるイノベーションと起業家精神の機会の探索」シリーズのアクティビティにサインアップしてください! 予想外なことに、ChatGPT パラメータは GPT-4 と Midjourney に加えてわずか 200 億です、Tan Ping の起業家チームは 3D ベースモデルを構築したいと考えています

一連のアクティビティ「AI ラージ モデル分野におけるイノベーションと起業家精神の機会の探索」への登録

リンク: https://news.miracleplus.com/share_link/11311

生成 AI の波に後押しされて、技術研究とアプリケーションの革新は急速に進化しています。 「ビッグモデルの波」に直面して、そこに含まれるイノベーションの機会をどのように把握するか? このテーマに応えて、私たちはAI大型モデルの分野におけるイノベーションと起業家精神に関する一連のセミナーを企画しました。 最先端のイノベーションと起業家精神に注目している友人は、イベントにサインアップして、一緒に最先端の技術革新のシグナル、進捗状況、トレンドを更新し、最前線のアプリケーション革新の実践的な経験について学ぶことを歓迎します。

GPT-4 と Midjourney に加えて、Tan Ping の起業家チームは 3D 基本モデルを作成したいと考えています

リンク: https://news.miracleplus.com/share_link/11312

コンピューター ビジョンとコンピューター グラフィックスの分野で 20 年以上研究してきた上級学者である Tan Ping は、3D が人間の世界の視覚認知の基礎であると常に信じてきました。そのため、モデルが正確に理解するには 3D 情報が重要です。現実世界。 これまで多用されてきたテキスト情報を補完するものであり、早急に採掘が必要な「豊富な鉱山」です。 この「豊かな鉱石」を効果的に採掘するための 3D 基本モデルを作成できれば、AI は言語から物理学へ、文字通りから現実へ移行し、現実世界を深く理解した真の「ユニバーサルモデル」になることが期待されています。 このコンセプトに基づいて、彼が設立した AI テクノロジー会社 Light Illusions は、より正確な 3D 再構成やより優れた Vincent 3D エフェクトなど、いくつかの基本的な技術的進歩を達成しました。

ChatGPT パラメータがわずか 200 億であるとは予想もしていませんでしたか?

リンク: https://news.miracleplus.com/share_link/11313

ChatGPT の中核となる秘密がこのような形で Microsoft によって暴露されるとは誰も考えていませんでした。 昨夜、AI について議論する多くの WeChat グループが、EMNLP の論文とそのスクリーンショットによって突然目覚めました。 Microsoft の論文「CodeFusion: A Pre-trained Diffusion Model for Code Generation」では、ChatGPT のパラメータが「わずか」 20B (200 億) のモデルであるという比較中に重要な情報が明らかになり、このインシデントは広く注目を集めました。 ChatGPTがリリースされてからほぼ1年が経ちますが、OpenAIはChatGPTの技術的な詳細を公開していません。 その強力なモデルのパフォーマンスにより、人々は ChatGPT のパラメーター量、トレーニング データ、その他の情報について多くの疑問や推測を持っています。 業界で長年ベンチマークとして使用されている ChatGPT は強力なパフォーマンスを備えており、さまざまな問題を解決できます。 前身の GPT-3 ではパラメータ数が 1,750 億個ありましたが、実用化後は OpenAI によって大規模なモデルが実際に 9 分の 1 に削減されましたが、これは妥当でしょうか? 「この論文についてどう思いますか?」というトピックはすぐに Zhihu のホット リストに登場しました。

Alibaba Cloud は AI インフラストラクチャを包括的にアップグレードし、中国の大規模モデル企業の半数が Alibaba Cloud 上で稼働しています。

リンク: https://news.miracleplus.com/share_link/11314

10月31日、2023 Yunqi ConferenceでAlibaba Cloudの最高技術責任者（CTO）周静仁氏は、インテリジェント時代に直面し、Alibaba Cloudはクラウドコンピューティングシステムをアップグレードし、基盤となるコンピューティング能力からAIプラットフォーム、モデル サービス AI 時代で最もオープンなクラウド。 周静仁氏は現場で、基本的なクラウドコンピューティング機能の最新の進歩を発表し、人工知能プラットフォームをアップグレードし、数千億のパラメーターを備えた大規模モデルである同義前文2.0とワンストップモデルのアプリケーション開発プラットフォームAlibabaをリリースした。 Cloud Bailian、Alibaba Cloud は当初、AI 時代のフルスタック クラウド コンピューティング システムを構築しました。

この報告書は、Apple が AI 分野で目立たないようにしていると述べています。Apple は 20 社以上の企業を買収しており、そのサブスクリプション モデルには競合他社よりも多くの利点があります。

リンク: https://news.miracleplus.com/share_link/11315

グラフモデルも大きくする必要があるのでしょうか? 清華大学のZhu Wenwuチームは次のような見解を持っています。

リンク: https://news.miracleplus.com/share_link/11316

大規模モデルの時代において、グラフ機械学習はどのような機会と課題に直面するのでしょうか? それは存在しますか?大規模なグラフ モデルを開発する方法はありますか? この問題に対応して、清華大学の朱文武教授のチームは初めてラージ グラフ モデルの概念を提案し、ラージ グラフ モデルに関連する概念、課題、応用を体系的に要約、整理し、さらにダイナミクスと問題に焦点を当てました。動的における解釈可能性 研究は、グラフ大規模モデルと分離グラフ大規模モデルで進歩しました。

おとぎ話を使用して AI モデルをトレーニングすることで、Microsoft は生成されたモデルのパラメータを探索するための新しいエントリ ポイントを発見しました

リンク: https://news.miracleplus.com/share_link/11317

英語を学ぶのが簡単な仕事ではないことは誰もが知っています。 しかし、「生徒」がコンピュータであれば、インターネット上の山ほどのテキストをニューラルネットワークと呼ばれる巨大な数学モデルに入力するだけで、このように効率的に英語を学ぶことができます。 これは、OpenAI の ChatGPT のような大規模な生成モデルの背後にある動作原理であり、過去 1 年間、幅広いトピックについて (錯覚はあるものの) 一貫して会話できる能力に誰もが驚かされました。 しかし、この方法には欠点もあります。まず、巨大なテキスト ファイルを言語モデルに必要なトレーニング コーパスに変換するのに費用と時間がかかります。 一方で、大規模な言語モデルをトレーニングしている人でも、その内部の仕組みを理解するのは難しく、そのため設計の失敗を避けることが困難になります。 これらの困難に直面して、研究者の中には、より小さなデータセットでより小さなモデルをトレーニングしてから、モデルの動作を研究することを選択する人もいます。 「ショウジョウバエのゲノムを解読するのに対し、ヒトのゲノムを解読するようなものです。」とブラウン大学の言語モデル研究者であるエリー・パブリックは言いますが、最近発表された論文の中で、マイクロソフトの 2 人の研究者が小さな言語を訓練する方法について説明しています。モデリング: おとぎ話でモデルをトレーニングします。

ChatGPT や Llama-2 などの大規模モデルはプライベート データを計算できます

リンク: https://news.miracleplus.com/share_link/11318

ChatGPT などの大規模言語モデルの推論機能はどの程度強力ですか? 投稿や一部の個人データを通じて、住所、年齢、性別、職業、収入、その他の個人データが推測される可能性があります。 スイス連邦工科大学は、年齢、教育、性別、職業、婚姻状況、居住地、居住地などの個人データを含む、520 人の Reddit (有名なフォーラム) ユーザーの PersonalReddit 現実のデータ セットを収集し、手動で注釈を付けました。生まれと収入。 次に研究者らは、GPT-4、Claude-2、Llama-2 などの 9 つの主流の大規模言語モデルを使用して、PersonalReddit データセットに対する特定の質問とプライベート データの推論を実施しました。 結果は、これらのモデルがトップ 1 精度 85%、トップ 3 精度 95.8% を達成でき、ユーザーのテキスト内容を分析するだけで、テキストに隠されたさまざまな実際のプライベートデータを自動的に推測できることを示しています。

ホワイトハウスが大統領令を発令: 安全かつ信頼性の高い方法で AI の開発を奨励する

リンク: https://news.miracleplus.com/share_link/11319

ワシントン時間10月30日、ホワイトハウスの公式ウェブサイトは、安全で信頼できるAI（人工知能）の開発に関するバイデン大統領の大統領令を発表した。 ホワイトハウスは、この大統領令はAIの安全性とセキュリティに関する新たな基準を設定し、ユーザーのデータプライバシーを保護し、公平性と公民権を促進し、消費者と労働者の利益を守り、技術革新と競争を促進すると述べた。 同時に、この行政命令は、以前に15社と署名した「生成AIセキュリティコミットメント」にも基づいており、安全、健康、信頼性の高い生成AIの開発を包括的に推進している。 この行政命令の発行は、Microsoft、OpenAI、Google、Meta、Amazon、Anthropic などのテクノロジー大手による ChatGPT などの生成 AI 製品の開発を促進し、保護する上で重要な役割を果たしました。

リンクは次のとおりです: https://www.whitehouse.gov/briefing-room/statements-releases/2023/10/30/fact-sheet-president-biden-issues-executive-order-on-safe-secure-そして信頼できる -人工知能/

どこにひざまずいてるの？ 人間とAIの協力にはどのような危険があるのでしょうか?

リンク: https://news.miracleplus.com/share_link/113120

「テクノロジーは怠け者によって動かされている！」 誰もが「釣りをしているとき」や「横になっているとき」に自分への言い訳としてこの言葉を使ったことがあると思います。 蒸気機関の産業革命からコンピューターのデジタル革命に至るまで、確かに技術の進歩は、いくつかの面で人間にますます多くの資本を与えてきました。 次世代プラットフォームとして最も期待されるAI技術は人間を「怠け者」にしてしまうのか？ どうやらそのようですが、良いニュースではありません。 雑誌「Frontiers of Robotics and Artificial Intelligence」に掲載された新しい研究によると、人間はAIや機械を扱うと本当に怠け者になるという。 「チームワークは祝福にもなり、同時に呪いにもなり得る」とこの研究の筆頭著者であるサイメック氏は語った。