【1月10日ビッグモデルデイリーコレクション】 コードコーパスの魔法の杖を振ると、ビッグモデルとエージェントがより強力なエネルギーを呼び起こします

Mixtral 8x7B の論文がついに登場: アーキテクチャの詳細とパラメータの量が初めて明らかに

リンク: https://news.miracleplus.com/share_link/15457

少し前に、オープンソース コミュニティ全体に火をつけた Mixtral 8x7B MoE モデル ペーパーがリリースされました。 これまで、OpenAI チームは GPT-4 のパラメーター量とトレーニングの詳細については口を閉ざしていました。 Mistral 8x7B のリリースは、開発者に「GPT-4 に非常に近い」オープンソースの選択肢を提供することは間違いありません。 ご存知のとおり、OpenAI も GPT-4 の構築に「Mixture of Experts (MoE)」アーキテクチャを使用しているというニュースをずっと前に誰かが発表していました。 論文の発表に伴い、いくつかの研究詳細も発表された。

説明可能な AI を使用して、スケーラブルなペロブスカイト太陽電池製造のプロセスダイナミクスを発見する

リンク: https://news.miracleplus.com/share_link/15458

ペロブスカイト半導体膜の大面積処理は複雑で、原因不明の品質差が生じる可能性があり、ペロブスカイト太陽光発電の商業化の大きな障害となります。 スケーラブルな製造プロセスの進歩は、現在、漸進的かつ任意の試行錯誤プロセスに限定されています。 フォトルミネッセンスビデオをその場で取得すると、膜形成中の重要な変化を明らかにできる可能性がありますが、データの高次元性は人間による分析の限界をすぐに超えます。 ドイツがん研究センターのインタラクティブ機械学習グループ、ヘルムホルツ イメージング グループ、およびカールスルーエ工科大学光技術研究所 工科大学の学際的な研究者チームは、ディープラーニングと説明可能な人工知能 (XAI) を使用して、取得したセンサー情報間の関連性を発見しました。ペロブスカイト膜の形成中と、その結果得られる太陽電池の性能測定基準の関係を理解できるようにしながら、 研究者らはさらに、産業規模の太陽電池製造を前進させるために、得られた洞察をペロブスカイト膜処理に関する実用的な推奨事項にどのように蒸留できるかを実証しています。

コードコーパス、大型モデル、インテリジェントエージェントの魔法の杖を振ると、より強力なエネルギーが呼び出されます。

リンク: https://news.miracleplus.com/share_link/15459

リスフォードの杖がダンブルドアなど、あらゆる時代の並外れた魔術師の伝説を生み出したように、巨大な可能性を秘めた伝統的な大規模言語モデルは、コード コーパスの力で事前にトレーニング/微調整された後、元のソースを超えた実行を習得しました。 具体的には、大規模モデルの高度なバージョンは、コードの記述、より強力な推論、実行インターフェイスの独立した呼び出し、独立した改善の点で改善されており、AI エージェントとして、また下流のタスクをあらゆる面で実行する上でメリットをもたらします。 最近、イリノイ大学アーバナシャンペーン校 (UIUC) の研究チームが重要なレビューを発表しました。 このレビューでは、コードが大規模言語モデル (LLM) とそれらに基づくインテリジェント エージェント (インテリジェント エージェント) に強力な機能をどのように提供するかを検討します。

A100よりコストパフォーマンスが高い！ FlightLLM を使用すると、大規模モデルの推論でパフォーマンスとコストを同時に心配する必要がなくなります。

リンク: https://news.miracleplus.com/share_link/15460

デバイス側での大規模な言語モデルの大規模な適用により、コンピューティングのパフォーマンスとエネルギー効率の比率に対する需要が「引き上げられ」、アルゴリズムとチップ間の推論に十分な競争の場が開かれました。 想像上の端末シナリオに直面して、GPU および FPGA ベースの推論ソリューションのアプリケーションの可能性を再検討する必要があります。 最近、Wuwen Core、清華大学、上海交通大学は共同で、FPGA 用の大規模モデルの軽量展開プロセスを提案し、単一のザイリンクス U280 FPGA 上で LLaMA2-7B の効率的な推論を初めて実現しました。 筆頭著者は清華大学電子工学科の博士であり、Wuwen Core Dome のハードウェア責任者である Zeng Shulin 氏、責任著者は上海交通大学の准教授で共同創設者兼責任者の Dai Guohao 氏です。 Wuwen Core Dome の科学者、清華大学電子工学部教授兼部長、Wang Yu 氏、Wuwen Xinqiong の創設者。 関連研究は現在、リコンフィギュラブル コンピューティング分野のトップカンファレンスである FPGA’24 に受け入れられています。