چگونه می توانید مدل های هوش مصنوعی خود را به صورت رایگان بسازید و اجرا کنید
هنگامی که بیشتر افراد در مورد هوش مصنوعی فکر می کنند ، جستجو تمایل به تمرکز روی چتپ دارد ، همانطور که Google معنی دارد. با این حال ، دنیای بزرگی از هوش مصنوعی وجود دارد که قطعاً ارزش کشف آن را دارد ، به جز چت بابات.
به جای استفاده از سرویس های ابر سوم مانند OpenAI یا Google Gemini ، نمونه ای از افراد از افرادی است که از مدل های AI در رایانه های خود استفاده می کنند.
اما چرا باید این کار را انجام دهم ، شما می پرسید. شما هر جنبه ای از هوش مصنوعی را که برای چیزی استفاده می کنید کنترل می کنید. این از انتخاب مدل تا موضوعی که استفاده می کنید متفاوت است.
همه چیز کاملاً آفلاین کار می کند ، به این معنی که مشکلی برای خاص نگه داشتن وسایل شما وجود ندارد. همچنین این بدان معنی است که شما همیشه می توانید کار هوش مصنوعی خود را حتی بدون اتصال WiFi انجام دهید.
علاوه بر این ، اگر از خدمات اشتراک تجاری برای پروژه های بزرگتر استفاده می کنید ، مشکل هزینه هایی وجود دارد که می توان به سرعت جمع آوری کرد. با استفاده از مدل AI محلی خود ، ممکن است مجبور شوید یک هوش مصنوعی کمتری را تحمل کنید ، اما برای اجرای آن سکه های برق هزینه دارد.
سرانجام ، Google شروع به پخش تبلیغات در chatbots chemini کرده است و سایر تأمین کنندگان هوش مصنوعی احتمالاً این پرونده را دنبال می کنند. وقتی سعی می کنید کاری انجام دهید ، تبلیغات مداخله می تواند بسیار سریع باشد.
نحوه شروع
سه مؤلفه اصلی در حال اجرا و بهره برداری از هوش مصنوعی محلی شما وجود دارد. اول از همه ، شما به نوع رایانه مناسب نیاز دارید ، دوم باید مدل AI مناسب را انتخاب کنید ، و در نهایت موضوع بارگذاری نرم افزار مناسب برای اجرای مدل شما وجود دارد. اوه ، و برای اتصال همه آنها به دانش دانش نیز نیاز خواهید داشت.
1. رایانه
(تصویر: © Pixabay)
همه کتاب ها را می توان نوشت و احتمالاً هنگام انتخاب رایانه مناسب برای اجرای هوش مصنوعی محلی. متغیرهای زیادی وجود دارد ، اما فقط سه چیز برای یک شروع ساده مهم است. مقدار رم کل ، قدرت پردازش CPU و فضای ذخیره سازی.
قاعده اصلی این است که شما از قدرتمندترین رایانه ای که می توانید ملاقات کنید استفاده می کنید ، زیرا هوش مصنوعی دیوانه است. اما این فقط مربوط به پردازنده نیست ؛ دقیقاً مانند مقدار حافظه بار (رم).
در نتیجه – استفاده از دستگاه قدیمی ویندوز XP خود را فراموش کنید ، به یک رایانه مدرن با حداقل 8 گیگابایت رم ، یک کارت گرافیک خوب با حداقل 6 گیگابایت VRAM و فضای ذخیره سازی کافی (ترجیحاً SSD) نیاز دارید تا مدل های مورد استفاده خود را حفظ کنید. سیستم عامل بی تفاوت است. ویندوز ، مک یا لینوکس خوب است.
دلیل این چیزها این است که هرچه کامپیوتر شما بیشتر باشد ، AI سریعتر کار می کند. با پیکربندی صحیح ، می توانید مدل های AI بهتر و قوی تر را با سرعت بیشتری اجرا کنید. تفاوت بین پاسخ AI در یک زمان ، تفاوت بین تماشای لکنت روی صفحه یا پیروی از تمام پاراگراف های متن است که در یک حرف دردناک یا میلی ثانیه در یک زمان تغییر می کند.
در عین حال ، این تفاوت بین اجرای مدلی است که توهم ندارد ، پاسخ ها و نتایج با کیفیت حرفه ای را ارائه نمی دهد یا مانند یک احمق روستا واکنش نشان می دهد.
نکته سریع: اگر در دو یا سه سال گذشته رایانه خود را خریداری کرده اید ، به خصوص اگر رایانه بازی دارید ، خوب خواهید بود تا زمانی که RAM کافی داشته باشید ، بروید.
مدل 2
(تصویر: © freepic)
توسعه مدل AI خیلی سریع در حال حرکت است ، این بخش تا هفته آینده به روز نخواهد بود. و شوخی نمی کنم. اما در حال حاضر ، پیشنهادات من.
قاعده شماره یک مطابقت با اندازه مدلی است که با ظرفیت یا قابلیت های رایانه خود انتخاب می کنید. بنابراین ، اگر حداقل رم لخت و کارت گرافیکی ضعیف دارید ، باید یک مدل هوش مصنوعی کوچکتر و کمتر قدرتمند را انتخاب کنید و بالعکس.
نکته سریع: همیشه با یک مدل کوچکتر از اندازه رم خود شروع کنید و ببینید که چگونه کار می کند. به عنوان مثال ، اگر 8 گیگابایت رم دارید ، مدل حدود 4 تا 5 گیگابایت را انتخاب کنید. استفاده از آزمایش و خطا در این مرحله ایده خوبی است
خبر خوب به بازار عرضه می شود ، که کاملاً با رایانه های متوسط و مدل های منبع بازتر سازگار است. علاوه بر این ، در برخی موارد و گزینه های مبتنی بر ابر ، و همچنین عملکرد خوبی دارند. و این تنها با بالغ شدن بازار هوش مصنوعی بهتر خواهد بود.
در حال حاضر ، سه مدل مورد علاقه من Qwen3 ، Deepseek و Lama است. همه اینها منبع آزاد و آزاد از درجات مختلف هستند ، اما فقط دو مورد اول برای اهداف تجاری قابل استفاده است. می توانید لیستی از تمام مدلهای AI Open -Source موجود در HuggingFace را پیدا کنید. در هر بعد و توانایی کلمه هزاران به معنای واقعی کلمه وجود دارد که می تواند انتخاب نسخه مناسب را دشوار کند – بنابراین بخش بعدی بسیار مهم است.
3. نرم افزار
(تصویر: © npowell)
بازار دارای بسیاری از برنامه های عالی به نام بسته ها یا انتهای جلو است که اجرای مدل های AI را آسان تر می کند. شما فقط باید نرم افزار را بارگیری و نصب کنید ، مدلی را که می خواهید استفاده کنید انتخاب کنید و بروید. در بیشتر موارد ، اگر مدلی که انتخاب می کنید به درستی روی رایانه شما کار نمی کند ، برنامه شما را تحریک می کند ، که باعث می شود همه چیز بسیار دردناک تر شود. در اینجا موارد دلخواه شخصی من است.
استودیوی LM
استودیوی LM این یک روش آسان برای استفاده از مدل ها در رایانه است. ویندوز ، مک و لینوکس کار می کنند و بعد از بارگیری ، می توانید با جستجو و انتخاب بهترین اندازه ، فوراً یک مدل را اضافه کنید. برای انجام این کار ، روی نماد Discover در نوار لبه سمت چپ کلیک کنید و یک صفحه جستجوی مدل را مشاهده خواهید کرد. این اسکن را برای مدل های مناسب اسکن می کند و اطلاعات خوبی را برای انتخاب صحیح به شما می دهد. یک ابزار بسیار مفید
پیرامون
وسیله نقلیه منبع آزاد مورد علاقه شخصی برای اجرای مدل های محلی پیرامونبشر این یک برنامه افزودنی از مرورگر وب است که دسترسی به هر یک از آنها را آسان تر می کند. وجود مدل های هوش مصنوعی در دستگاه شما. ابتدا باید موجودی رایگان را نصب کنید و دستورالعمل ها را برای بارگیری مدل ها دنبال کنید ، به طوری که این روش به تخصص کمی بیشتر از LM Studio نیاز دارد. با این حال ، PageAssist روش مناسبی برای اجرای مدل های محلی AI با فشار دادن یک دکمه ، نه تنها گپ ، بلکه به جستجوی وب و دسترسی به پایگاه اطلاعات شخصی خود است.
وجود
Olama به شماره یک راه برای نصب و کارکرد مدل های AI منبع باز رایگان در هر رایانه کوچک تبدیل می شود. این یک سرور مدل رایگان است که با بسیاری از برنامه های حزبی سوم یکپارچه شده است و می تواند هوش مصنوعی محلی را در یک زمین بازی مسطح با خدمات ابری بزرگ قرار دهد.
آخرین افکار
هرچه رایانه ها قوی تر می شوند و فناوری هوش مصنوعی بالغ می شوند ، مدل های AI محلی محبوبیت خود را به دست می آورند. برنامه هایی مانند سلامت شخصی یا امور مالی ، به این معنی که داده های دقیق بسیار مهم هستند ، به اتخاذ این دستیاران کوچک آفلاین کمک می کنند.
مدل های کوچک نیز به طور فزاینده ای در عملیات از راه دور مانند کشاورزی یا جایی که دسترسی به اینترنت غیرقابل اعتماد یا غیرممکن است استفاده می شود. برنامه های هوش مصنوعی بیشتر از طریق تلفن ها و دستگاه های هوشمند ما عبور می کنند ، به خصوص که مدل ها کوچکتر و قدرتمندتر می شوند و پردازنده ها گوشتی تر می شوند. آینده می تواند واقعاً جالب باشد.
بیشتر از راهنمای تام
بازگشت به لپ تاپ ها
