Moonshot AI از مدل هوش مصنوعی Kimi K3 با ۲.۸ تریلیون پارامتر رونمایی کرد

Moonshot AI از مدل هوش مصنوعی Kimi K3 با ۲.۸ تریلیون پارامتر رونمایی کرد

شرکت چینی Moonshot AI از جدیدترین مدل هوش مصنوعی خود با نام Kimi K3 رونمایی کرده است؛ مدلی که با ۲.۸ تریلیون پارامتر به یکی از بزرگ‌ترین مدل‌های هوش مصنوعی با وزن‌های باز (Open-Weight) تبدیل شده است. این مدل با هدف رقابت با پیشرفته‌ترین سامانه‌های هوش مصنوعی شرکت‌هایی مانند OpenAI و Anthropic توسعه یافته و تمرکز ویژه‌ای روی وظایف پیچیده مانند برنامه‌نویسی، استدلال طولانی‌مدت و کارهای مبتنی بر عامل‌های هوشمند دارد.

Kimi K3؛ بزرگ‌ترین مدل Open-Weight هوش مصنوعی

Moonshot AI اعلام کرده که Kimi K3 نخستین مدل در کلاس ۳ تریلیون پارامتر محسوب می‌شود و بزرگ‌ترین مدل هوش مصنوعی با وزن‌های باز تا امروز است. برخلاف مدل‌های بسته که فقط از طریق سرویس‌های ابری در دسترس هستند، مدل‌های Open-Weight امکان دسترسی بیشتر توسعه‌دهندگان به ساختار و وزن‌های مدل را فراهم می‌کنند.

این مدل از یک معماری Mixture of Experts (MoE) استفاده می‌کند؛ به این معنا که با وجود داشتن ۸۹۶ متخصص داخلی، برای هر توکن تنها ۱۶ متخصص فعال می‌شوند. این طراحی باعث می‌شود Kimi K3 بتواند با وجود تعداد بسیار زیاد پارامترها، مصرف محاسباتی بهینه‌تری داشته باشد.

تمرکز ویژه روی برنامه‌نویسی و وظایف پیچیده

تمرکز ویژه روی برنامه‌نویسی و وظایف پیچیده

یکی از نقاط قوت اصلی Kimi K3 عملکرد آن در حوزه برنامه‌نویسی است. طبق اعلام Moonshot، این مدل در آزمون داخلی Frontend Code Arena توانسته امتیاز ۱۶۷۹ را کسب کند و در این بخش از برخی مدل‌های رقیب پیشی بگیرد. Kimi K3 همچنین در چندین حوزه مرتبط با توسعه نرم‌افزار و وظایف عامل‌محور عملکرد قدرتمندی نشان داده است. این مدل علاوه‌بر تولید کد، برای انجام وظایف طولانی و چندمرحله‌ای طراحی شده و می‌تواند در پروژه‌هایی که نیازمند تحلیل حجم زیادی از اطلاعات هستند، عملکرد بهتری ارائه دهد.

پنجره پردازشی یک میلیون توکن و قابلیت چندرسانه‌ای

یکی دیگر از ویژگی‌های مهم Kimi K3، پشتیبانی از پنجره متنی یک میلیون توکن است. این قابلیت به مدل اجازه می‌دهد حجم بسیار زیادی از اطلاعات را به‌صورت هم‌زمان پردازش کند؛ ویژگی‌ای که برای تحلیل اسناد بزرگ، پروژه‌های نرم‌افزاری پیچیده و کارهای تحقیقاتی اهمیت زیادی دارد.

Kimi K3 همچنین از قابلیت پردازش تصویر به‌صورت داخلی پشتیبانی می‌کند و می‌تواند در کنار داده‌های متنی، اطلاعات تصویری را نیز تحلیل کند.

معماری جدید برای افزایش بهره‌وری

Moonshot AI در Kimi K3 از فناوری‌های جدیدی مانند Kimi Delta Attention و Attention Residuals استفاده کرده است. این فناوری‌ها برای بهبود مدیریت اطلاعات در زمینه‌های طولانی و افزایش بهره‌وری فرآیند آموزش توسعه یافته‌اند.

به گفته این شرکت، این معماری باعث می‌شود مدل در پردازش درخواست‌های طولانی و پیچیده عملکرد بهتری داشته باشد و هزینه اجرای آن نسبت به اندازه بسیار بزرگ مدل کنترل شود.

رقابت مستقیم با مدل‌های پیشرفته آمریکایی

عرضه Kimi K3 نشان‌دهنده افزایش سرعت پیشرفت شرکت‌های هوش مصنوعی چین در رقابت جهانی است. Moonshot AI ادعا کرده که مدل جدیدش در برخی آزمون‌های برنامه‌نویسی و وظایف هوشمند می‌تواند با مدل‌های پیشرفته شرکت‌های آمریکایی رقابت کند، هرچند ارزیابی‌های مستقل گسترده‌تر همچنان برای سنجش دقیق‌تر عملکرد آن مورد نیاز است.

این مدل در شرایطی معرفی شده که شرکت‌های چینی با محدودیت‌هایی در دسترسی به برخی تراشه‌های پیشرفته هوش مصنوعی روبه‌رو هستند و تلاش می‌کنند با بهینه‌سازی معماری مدل‌ها، فاصله خود با رقبای جهانی را کاهش دهند.

آینده Kimi K3

Moonshot AI اعلام کرده که وزن‌های کامل Kimi K3 قرار است در اختیار توسعه‌دهندگان قرار گیرد تا امکان استفاده، تغییر و توسعه بیشتر این مدل فراهم شود. با توجه به ابعاد عظیم این مدل، اجرای کامل آن به زیرساخت سخت‌افزاری قدرتمندی نیاز خواهد داشت.

معرفی Kimi K3 نشان می‌دهد رقابت در حوزه مدل‌های زبانی بزرگ وارد مرحله جدیدی شده است؛ مرحله‌ای که در آن مدل‌های Open-Weight نیز به سمت مقیاس‌های چند تریلیون پارامتری حرکت می‌کنند و می‌توانند به رقیبی جدی برای مدل‌های بسته تبدیل شوند.

منبع: tomshardware.com

0
پیام بگذارید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *