‘ڈیٹا فیوژن’ سے ‘نجی آرکیٹیکچر’ کی طرف منتقلی: سینس ٹائم نے نیو آرکیٹیکچر جاری کر دیا ہے، جو ملٹی موڈل ماڈلز کی کارکردگی کی حدود کو دوبارہ تعریف کرتا ہے

سینس ٹائم نے اپنا نیا ملٹی موڈل ماڈل آرکیٹیکچر، نیو، جو نان یانگ ٹیکنالوجیکل یونیورسٹی ایس-لیب کے ساتھ مشترکہ طور پر تیار کیا گیا تھا، باضابطہ طور پر جاری کر دیا ہے اور اوپن سورس کر دیا ہے، جس سے سینس نووا ملٹی موڈل ماڈل کے لیے نئی نسل کے آرکیٹیکچر کی بنیاد رکھی گئی ہے۔
صنعت کا پہلا دستیاب قدرتی ملٹی موڈل آرکیٹیکچر (نیٹو وی ایل ایم) جو گہری ایکجوت کو حاصل کرتا ہے، نیو روایتی 'ماڈولر' نقطہ نظر کی روایتی قیدوں کو توڑتا ہے اور نوآورانہ طور پر 'ملٹی موڈل کے لیے خاص طور پر پیدا ہونے' کے لیے ڈیزائن کیا گیا ہے۔ کور آرکیٹیکچر کے سطح پر متعدد موڈلیٹیز کی گہری ایکجوت کے ذریعے، یہ عملکرد، کارکردگی اور جامعیت میں مکمل طور پر ترقی کرتا ہے، ملٹی موڈل ماڈلز کی عملکرد کی حد کو دوبارہ تعریف کرتا ہے، اور مصنوعی ذہانت کی ملٹی موڈل ٹیکنالوجی کے لیے 'قدرتی آرکیٹیکچر' کے نئے دور میں داخل ہونے کا باضابطہ اعلان کرتا ہے۔
رکاوٹوں کو عبور کرنا، 'پیچ ورک' کو الوداع کہنا، اور 'قدرتی' کا استقبال کرنا
فی الحال، زیادہ تر مقبول چند ماڈل جو صنعت میں استعمال ہوتے ہیں، عام طور پر "بصری انکوڈر+پروجیکٹر+زبان کا ماڈل" کے ماڈولر طرزِ عمل پر مبنی ہوتے ہیں۔ بڑے زبانی ماڈل (LLM) پر مبنی یہ توسیع کا طریقہ تصویری ان پٹ کے ساتھ مطابقت حاصل کرتا ہے، لیکن بنیادی طور پر اب بھی زبان پر مرکوز رہتا ہے، اور تصاویر اور زبان کا امتزاج صرف ڈیٹا کی سطح تک محدود رہتا ہے۔ اس "جڑنے والے" ڈیزائن کی وجہ سے نہ صرف سیکھنے کی کارکردگی کم ہوتی ہے بلکہ ماڈل کی صلاحیت بھی پیچیدہ چند ماڈل کے مناظر میں محدود ہو جاتی ہے، جیسے کہ تصویر کی تفصیلات کو پکڑنا یا پیچیدہ جگہی ساخت کو سمجھنا۔ سینس ٹائم نیو آرکیٹیکچر اس دُردرد کو دور کرنے کے لیے وجود میں آیا۔ اگست 2024ء کے دوسرے نصف میں شانگ تانگ نے چین میں پہلی بار چند ماڈل کے اصلی امتزاجی تربیت کے ٹیکنالوجی میں کامیابی حاصل کی، جس کے نتیجے میں ایک ہی ماڈل کے ذریعے سپرکلو زبانی جانچ اور اوپن کمپاس چند ماڈل جانچ دونوں میں کامیابی حاصل ہوئی۔ اس بنیادی ٹیکنالوجی کی بنیاد پر نیسن سینس نووا 6.0 کو تیار کیا گیا، جس نے چند ماڈل استدلال میں قائدانہ صلاحیت حاصل کی۔ اس کے بعد جولائی 2025ء میں نچیرون سینس نووا 6.5 جاری کیا گیا، جس نے انکوڈر کی سطح پر ابتدائی امتزاج حاصل کیا، چند ماڈل ماڈلز کی لاگت اور موثریت کو تین گنا بڑھا دیا، اور یہ چین میں گرافک اور متن کے درمیان متبادل استنباط کو تجارتی درجے پر پیش کرنے والا پہلا ماڈل تھا۔ سینس ٹائم نے روایتی ماڈولر ساخت کو مکمل طور پر ترک کرتے ہوئے اور بنیادی اصولوں سے شروع کرتے ہوئے نیو نیٹیو آرکیٹیکچر کو مکمل طور پر نئے سرے سے ڈیزائن کیا۔
تین بنیادی ایجادات بصری اور زبانی یکجایی کو گہرا کرتی ہیں
نیو آرکیٹیکچر آخری کارآمدی اور گہری ایکجایی کے بنیادی تصورات پر مبنی ہے، اور توجہ کے طریقہ کار، مقامی کوڈنگ، اور معنوی نقشہ جات جیسے تین اہم پہلوؤں میں بنیادی ایجادات کے ذریعے، ماڈل میں بصری اور زبانی دونوں اقسام کے ڈیٹا کو یکجا طور پر سنبھالنے کی قدرت فطری طور پر موجود ہوتی ہے
ذاتی پیچ ایمبیڈنگ: الگ الگ تصویری ٹوکنائزرز کو چھوڑ دیا جاتا ہے اور ایک منفرد پیچ ایمبیڈنگ لیئر (پی ایل) کے ذریعے پکسلز سے الفاظ تک کا مستقل ربط نیچے سے اوپر کی طرف تشکیل دیا جاتا ہے۔ اس ڈیزائن کی وجہ سے تصویر کی تفصیلات کو زیادہ باریکی سے پکڑا جا سکتا ہے، جس سے عام ماڈلز میں تصویری ماڈلنگ کی رکاوٹ کو بنیادی طور پر ختم کر دیا جاتا ہے۔
قدرتی روپی: تین آئیمیشنل فریکوئنسی تقسیم کو نوآورانہ طور پر الگ کرتا ہے، جس میں بصری بعد میں اُچی فریکوئنسیاں اور لفظی بعد میں کم فریکوئنسیاں استعمال کی جاتی ہیں، جو دونوں ماڈلٹیز کی قدرتی ساخت کے بالکل مطابق ہوتا ہے۔ یہ نہ صرف نیو کو تصاویر کی جگہی ساخت کو درست طور پر پکڑنے کی اجازت دیتا ہے، بلکہ ویڈیو پروسیسنگ اور کراس فریم ماڈلنگ جیسے پیچیدہ منظر کے لیے بھی بے رُکاوٹ توسیع کے امکانات فراہم کرتا ہے۔
قدرتی متعدد سر اٹینشن: مختلف ماڈلٹیز کی خصوصیات کے جواب میں، نیو نے ایک متحدہ ڈھانچے کے اندر لفظی ٹوکنز کے لیے خودکار ترتیبی اٹینشن اور بصری ٹوکنز کے لیے دوطرفہ اٹینشن دونوں کو نافذ کیا ہے۔ اس ڈیزائن سے ماڈل میں جگہی ساختی ربط کے استعمال میں بہت اضافہ ہوتا ہے، جس سے پیچیدہ تصویری اور لفظی مرکب سمجھ اور استدلال کو بہتر طور پر سہارا دیا جا سکتا ہے۔
اس کے علاوہ، نوآورانہ پری بفر اور پوسٹ ایل ایل ایم دو مرحلہ امتزاج تربیت کی حکمت عملی کے ساتھ، نیو اصلی ایل ایل ایم کی مکمل زبانی استدلال کی صلاحیت کو جذب کر سکتا ہے جبکہ اس کی طرف سے طاقتور بصیرتی ادراک کی صلاحیت کو بالکل شروع سے ہی تعمیر کیا جا رہا ہے، جس سے روایتی کراس موڈل تربیت میں زبانی صلاحیتوں کے خراب ہونے کے مسئلے کو مکمل طور پر حل کیا جا سکتا ہے۔
پرکھی گئی کارکردگی: فلیگ شپ سطح کی کارکردگی کا اندازہ لگانے کے لیے ڈیٹا کا ایک دسویں حصہ استعمال کیا گیا
معماری کی نئی تخلیق پر مبنی، نیو نے حیرت انگیز ڈیٹا کی موثری اور کارکردگی کے فوائد کا مظاہرہ کیا ہے: بہت زیادہ ڈیٹا کی موثری: صرف صنعت کے دیگر مقابلہ پذیر ماڈلز (390 ملین تصویر-متن کے نمونوں) کے ڈیٹا کے حجم کا ایک دسواں حصہ استعمال کرتے ہوئے، نیو عمدہ بصارتی ادراک کی صلاحیتوں کو فروغ دے سکتا ہے۔ وسیع ڈیٹا اور اضافی بصارتی انکوڈرز پر انحصار کیے بغیر، اس کی مختصر معماری متعدد بصارتی سمجھ کے کاموں میں قوین2-وی ایل اور انٹرن وی ایل3 جیسے اعلیٰ درجے کے ماڈولر فلیگ شپ ماڈلز کے مقابلے میں برابر کارکردگی فراہم کر سکتی ہے۔ بہترین اور متوازن کارکردگی: ایم ایم ایم یو، ایم ایم بی، ایم ایم اسٹار، سیڈ-آئی، پوپ وغیرہ جیسے متعدد عوامی اور معتبر جائزہ گیری کے معیارات میں نیو معماری نے اعلیٰ نمبر حاصل کیے ہیں، جو دیگر اصلی وی ایل ایمز کے مقابلے میں جامع کارکردگی کو ظاہر کرتا ہے، جس سے اصلی معماری کا "درستگی کے بغیر نقصان کے بغیر" مقصد حقیقت بن گیا ہے۔ آخری استدلال کی لاگت اور موثری: خاص طور پر 0.6 بی سے 8 بی پیرامیٹرز کے درجے میں، نیو کنارے پر نفاذ (ایج ڈیپلائمنٹ) کے لیے واضح فوائد رکھتا ہے۔ یہ نہ صرف درستگی اور موثری دونوں میں دوہرا قدم آگے بڑھاتا ہے بلکہ استنباط کی لاگت کو بھی کافی حد تک کم کر دیتا ہے، جس سے چند وسیلہ بصارتی ادراک کی "لاگت اور موثری" کو انتہا تک پہنچا دیا جاتا ہے کھلا ذریعہ: مشترکہ تعمیر
آئی اے کی اگلی نسل کی بنیادی ڈھانچہ تعمیر کرنا ماڈل کا "کنکال" ہے، اور صرف مضبوط کنکال کے ساتھ ہی یہ مستقبل کی بہت ساری اقسام کی ٹیکنالوجی کی حمایت کر سکتا ہے۔
نیو آرکیٹیکچر کی ابتدائی امتزاجی ڈیزائن مختلف وضاحت اور لمبی تصویر کے ان پٹ کو سپورٹ کرتی ہے، جو ویڈیو اور جسمانی ذہانت جیسے جدید شعبوں تک بے رکاوٹ طور پر پھیلتی ہے، اور درحقیقت نیچے سے اوپر اور آخر تک مکمل امتزاج حاصل کرتی ہے۔ درخواست کے نقطہ نظر سے، آخر تک کی "قدرتی اندراج" کی ڈیزائن روبوٹ کی جسمانی تعامل، ذہین ٹرمینل کے بہت سارے اقسام کے جوابات، ویڈیو کی سمجھ، تین بعدی تعامل اور جسمانی ذہانت جیسے مختلف منصوبوں کے استعمال کے لیے مضبوط تکنیکی حمایت فراہم کرتی ہے۔
فی الحال، سینس ٹائم نے قدرتی چند وسیلہ ماڈل آرکیٹیکچر پر مبنی دو معیاری ماڈلز، 2B اور 9B، کو NEO آرکیٹیکچر کی بنیاد پر سرکاری طور پر اوپن سورس کر دیا ہے تاکہ اوپن سورس کمیونٹی میں اس آرکیٹیکچر کے لیے تخلیقی اور عملی درجہ بندی کو فروغ دیا جا سکے۔ سینس ٹائم ٹیکنالوجی نے اعلان کیا ہے کہ وہ اوپن سورس تعاون اور مندرجہ ذیل صورتحال کے نفاذ کے ذریعے NEO کو ایک پیمانے پر لاگو اور دوبارہ استعمال کیے جانے والے اگلی نسل کے مصنوعی ذہانت کے بنیادی ڈھانچے کے طور پر تشکیل دینے کے لیے پرعزم ہے، جس سے لیب سے شروع ہونے والی قدرتی چند وسیلہ ٹیکنالوجی کا صنعتی سطح پر وسیع پیمانے پر استعمال ممکن ہو سکے، اور اگلی نسل کے صنعتی معیار کے قدرتی چند وسیلہ ٹیکنالوجی کے قیام کو تیز کیا جا سکے۔