آموزش ساخت ChatBot با اکسل و GPT-2

یک توسعه‌دهنده نرم‌افزار و به اعتراف‌ خودش معتاد به اکسل به نام ایشان آناند(Ishan Anand)، توانسته است gpt-2 را در مایکروسافت اکسل پیاده سازی کند.

دستاورد وی به طور شگفت‌آوری کار می‌کند و برای ما روش کار مدل‌های زبان بزرگ (LLMs) و نحوه عملکرد معماری Transformer در پیش‌بینی هوشمند نشانه بعدی آن را نشان می‌دهد.
آناند به خود می بالد و می گوید:”اگر می توانید یک صفحه گسترده را درک کنید، پس می توانید هوش مصنوعی را درک کنید.” فایل اکسل 1.25 گیگابایتی در GitHub برای دانلود و اجرای تغییرات برای همه در دسترس است.
به طور طبیعی، این پیاده‌سازی صفحه اکسل از GPT-2 تا حدودی عقب تر از مدل‌های LLM موجود در سال 2024 است، اما GPT-2 در سال 2019 به عنوان جدیدترین فناوری شناخته شد و توجه زیادی را به خود جلب کرد.

علاوه بر این، آناند از مدل کوچک GPT-2 در اینجا استفاده می‌کند و فایل باینری مایکروسافت اکسل XLSB دارای 124 میلیون پارامتر است، در حالی که نسخه کامل GPT-2 از 1.5 میلیارد پارامتر استفاده می‌کرد (در حالی که GPT-3 پیشرفتی بزرگ بود و تا 175 میلیارد پارامتر داشت).

GPT-2 اصولا بر روی پیش‌بینی هوشمند نشانه بعدی کار می‌کند، جایی که مدل زبان معماری Transformer یک ورودی را با محتمل‌ترین قسمت بعدی دنباله تکمیل می‌کند.
این صفحه اکسل تنها می‌تواند با 10 توکن ورودی کار کند که نسبت به 128،000 توکنی که GPT-4 Turbo می‌تواند پردازش کند، بسیار کوچک است. با این حال، برای یک نسخه نمایشی مناسب است.

آناند ادعا می‌کند که “معرفی این مدل با کد کم” به عنوان یک مبنای LLM برای افرادی مانند مدیران فناوری، بازاریابان، مدیران محصول، سیاست‌گذاران هوش مصنوعی و همچنین برای توسعه‌دهندگان و دانشمندانی که تازه وارد حوزه هوش مصنوعی هستند، ایده ال و مناسب است.

در ادامه وی می گوید که همین معماری Transformer «پایه‌ای برای ChatGPT OpenAI، Anthropic’s Claude، Google’s Bard/Gemini، Meta’s Llama و بسیاری از LLM‌های دیگر باقی می‌ماند».
مشاهده  آناند را در حال توضیح پیاده‌سازی GPT-2 به عنوان صفحه اکسل  در یوتیوب
چند برگه صفحه اول حاوی هر درخواستی است که می خواهید وارد کنید (اما محدودیت 10 دستوری را به خاطر بسپارید). سپس او از طریق نشانه‌سازی کلمات، موقعیت‌های متن و وزن‌دهی، اصلاح تکراری پیش‌بینی کلمه بعدی، و در نهایت انتخاب نشانه خروجی – آخرین کلمه پیش‌بینی‌شده دنباله را به ما به عنوان نتیجه بر می گرداند.

علیرغم استفاده از LLM که ممکن است در سال 2024 به این ترتیب طبقه بندی نشود ، آناند هنوز توانایی های برنامه اکسل را افزایش می دهد.

این توسعه دهنده هشدار می دهد که سعی در استفاده از این فایل اکسل در Mac ممکن است مشکلاتی مانند فریز شدن و از کار افتادن سیستم عامل را در پی داشته باشد!