Sakana AIの伊藤錬（COO）がLinkedIn創設者のリード・ホフマン氏らとパリで対談します！日本時間2月10日（月）22時よりLive視聴が可能です。ぜひご覧ください。 https://
events.project-syndicate.org/event/ai-actio
n-summit
… Ren Ito, Sakana AI (COO), will be speaking at #AIActionSummit. Tune in at the link on Feb 10 at 2PM CET.
@sakanaailabs
-
Sakana AI COO speaks at AI Action Summit in Paris
By
–
-
Sakana AI Outlook: Deepseek Drives GPU Demand, Alternative Models Emerge
By
–
Sakana AI on AI Development Outlook
— Sakana AI (@SakanaAILabs) 3 février 2025
Interview: https://t.co/nsWKEnNnTD
“David Ha discusses his outlook for the global AI landscape, saying that the emergence of models like Deepseek only fuels more demand for Nvidia GPUs. Eventually more alternative AI models will be produced.” https://t.co/NxyvtgX2XsSakana AI on AI Development Outlook Interview: https://
bloomberg.com/news/videos/20
25-02-03/sakana-ai-on-ai-development-outlook-video
… “David Ha discusses his outlook for the global AI landscape, saying that the emergence of models like Deepseek only fuels more demand for Nvidia GPUs. Eventually more alternative AI models will be produced.” -
TinySwallow ChatUI Local: Self-Contained AI Web Application
By
–
また、完全なローカル実行を希望される方向けに、モデルの重みを含むself-contained版のウェブアプリも用意しています。
— Sakana AI (@SakanaAILabs) 30 janvier 2025
GitHub: https://t.co/G2mreMkxFS… pic.twitter.com/YzRHKFazYWまた、完全なローカル実行を希望される方向けに、モデルの重みを含むself-contained版のウェブアプリも用意しています。 GitHub: https://
github.com/SakanaAI/TinyS
wallow-ChatUI-Local
… -
TAID: Temporally Adaptive Interpolated Distillation for Language Models
By
–
TAID: Temporally Adaptive Interpolated Distillation for Efficient Knowledge Transfer in Language Modelshttps://t.co/H44Mfv5Qgm
— Sakana AI (@SakanaAILabs) 30 janvier 2025
In our #ICLR2025 paper, we try to push what can be accomplished with model distillation! We applied TAID to train a very capable SOTA ‘smol’… https://t.co/B35ZVlsIvZTAID: Temporally Adaptive Interpolated Distillation for Efficient Knowledge Transfer in Language Models https://
arxiv.org/abs/2501.16937 In our #ICLR2025 paper, we try to push what can be accomplished with model distillation! We applied TAID to train a very capable SOTA ‘smol’ -
TinySwallow-1.5B: Knowledge Distillation for Japanese Language Models
By
–
この度、新手法「TAID」を用いて学習された小規模日本語言語モデル「TinySwallow-1.5B」を公開しました。https://t.co/U7qpbz2BgL
— Sakana AI (@SakanaAILabs) 30 janvier 2025
私たちは、大規模言語モデル（LLM）の知識を効率的に小規模モデルへ転移させる新しい知識蒸留手法「TAID (Temporally Adaptive Interpolated… pic.twitter.com/OUCy71ho42この度、新手法「TAID」を用いて学習された小規模日本語言語モデル「TinySwallow-1.5B」を公開しました。 https://
sakana.ai/taid-jp 私たちは、大規模言語モデル（LLM）の知識を効率的に小規模モデルへ転移させる新しい知識蒸留手法「TAID (Temporally Adaptive Interpolated -
Generative AI Evolution: Global Leaders Discuss Future at NEC Seminar
By
–
AI研究のグローバルリーダーが語る「生成AIの進化と未来像」セミナー（NEC主催）に、Sakana AIのライオン・ジョーンズ（CTO）が出演し、Transformerの論文の共著者であるŁukasz KaiserやNECの優秀な研究者たちと生成AIについて議論しました。
-
Nature publishes evolutionary model merging optimization research
By
–
論文「Evolutionary Optimization of Model Merging Recipes」が論文誌「Nature Machine Intelligence」に採択され本日掲載されました。最新バージョンでは本アプローチをさらに実証する新たな実験結果を含んでいます。ぜひ以下からご覧ください。 https://
nature.com/articles/s4225
6-024-00975-8
… Sakana -
Nature Publishes Evolutionary Optimization Model Merging Paper
By
–
We’re pleased to announce that our paper, “Evolutionary Optimization of Model Merging Recipes,” has been accepted to Nature Machine Intelligence and published today! The latest version includes new experimental results that further validate our approach. https://
nature.com/articles/s4225
6-024-00975-8
… -
Sakana AI Proposes Transformer² with Two-Stage Reasoning
By
–
東京発Sakana AIが新たな「Transformer」を提案 https://
xtech.nikkei.com/atcl/nxt/colum
n/18/02801/012200014/
…
Transformer²は2段階の推論プロセスを採用している。
１段階目では、プロンプトを試験的に実行してAIモデルの挙動を観察し、実行に必要なスキルを理解する。 -
Sakana AI Founders Discuss Company Vision in Forbes Interview
By
–
We got thoroughly grilled by Forbes with questions like, "So, what exactly is Sakana AI doing?" This is our longest interview yet, with all three founders. I'd love to hear any feedback or thoughts you have. https://
forbesjapan.com/articles/detai
l/76571/
…