يستخدم ملايين الأشخاص حول العالم الدردشات الآلية كل يوم، والتي تعمل بفضل خوادم السحابة المدعومة بوحدات معالجة الرسوميات من NVIDIA. الآن، هذه الأدوات الرائدة قادمة إلى أجهزة الكمبيوتر الشخصية التي تعمل بنظام Windows والمدعومة بـ NVIDIA RTX لتوفير الذكاء الاصطناعي التوليدي المحلي والسريع والمخصص.
“الدردشة مع RTX”، والتي أصبحت متاحة الآن للتحميل مجانًا، هي عرض تقني يتيح للمستخدمين تخصيص دردشة آلية بمحتواهم الخاص، مع تسريعها بواسطة وحدة معالجة الرسوميات المحلية من NVIDIA GeForce RTX من السلسلة 30 أو أعلى بذاكرة عشوائية للفيديو لا تقل عن 8 جيجابايت، أو VRAM. اسألني أي شيء
تستخدم “الدردشة مع RTX” التوليد المعزز بالاسترجاع (RAG)، وبرمجيات NVIDIA TensorRT-LLM وتسريع NVIDIA RTX لجلب قدرات الذكاء الاصطناعي التوليدي إلى أجهزة الكمبيوتر الشخصية التي تعمل بنظام Windows والمدعومة بـ GeForce. يمكن للمستخدمين بسهولة وسرعة ربط الملفات المحلية على جهاز الكمبيوتر كمجموعة بيانات بنموذج لغوي كبير مفتوح المصدر مثل Mistral أو Llama 2، مما يمكنهم من القيام بالاستعلامات للحصول على إجابات سريعة وذات صلة بالسياق.
بدلاً من البحث في الملاحظات أو المحتوى المحفوظ، يمكن للمستخدمين ببساطة كتابة استفساراتهم. على سبيل المثال، يمكن لأحدهم أن يسأل، “ما هو المطعم الذي أوصى به شريكي أثناء تواجدنا في لاس فيغاس؟”، وستقوم “الدردشة مع RTX” بفحص الملفات المحلية التي يشير إليها المستخدم وتوفير الإجابة مع السياق.
الأداة تدعم تنسيقات ملفات متعددة، بما في ذلك .txt، .pdf، .doc/.docx، و .xml. قم بتوجيه التطبيق نحو المجلد الذي يحتوي على هذه الملفات، وسيقوم الأداة بتحميلها إلى مكتبته في ثوانٍ معدودة.
يمكن للمستخدمين أيضًا إضافة معلومات من مقاطع فيديو وقوائم تشغيل يوتيوب. إضافة رابط فيديو إلى “الدردشة مع RTX” تتيح للمستخدمين دمج هذه المعرفة في دردشة آليتهم للاستعلامات السياقية. على سبيل المثال، اطلب توصيات سفر بناءً على المحتوى من مقاطع فيديو لمؤثرين مفضلين، أو احصل على دروس تعليمية سريعة وطرق عمل بناءً على أفضل المصادر التعليمية.
بما أن “الدردشة مع RTX” تعمل محليًا على أجهزة الكمبيوتر ومحطات العمل التي تدعم Windows RTX، فإن النتائج المقدمة سريعة — وبيانات المستخدم تبقى على الجهاز. بدلاً من الاعتماد على خدمات LLM القائمة على السحابة، تتيح “الدردشة مع RTX” للمستخدمين معالجة البيانات الحساسة على جهاز كمبيوتر محلي دون الحاجة إلى مشاركتها مع طرف ثالث أو الحاجة إلى اتصال بالإنترنت.
بالإضافة إلى وحدة معالجة الرسوميات GeForce RTX من السلسلة 30 أو أعلى بحد أدنى من ذاكرة الفيديو VRAM بسعة 8 جيجابايت، تتطلب “الدردشة مع RTX” Windows 10 أو 11، وأحدث برامج تشغيل GPU من NVIDIA. تطوير تطبيقات مبنية على LLM باستخدام RTX
تُظهر “الدردشة مع RTX” إمكانات تسريع LLMs باستخدام وحدات معالجة الرسوميات RTX. تم بناء التطبيق انطلاقًا من مشروع المرجعي لمطوري TensorRT-LLM RAG، المتاح على GitHub. يمكن للمطورين استخدام المشروع المرجعي لتطوير ونشر تطبيقاتهم الخاصة المبنية على RAG لـ RTX، والمسرعة بواسطة TensorRT-LLM. تعلم المزيد عن بناء تطبيقات مبنية على LLM.
شارك في مسابقة المطورين للذكاء الاصطناعي التوليدي على NVIDIA RTX، الخاصة بتطبيقات وإضافات Windows المدعومة بالذكاء الاصطناعي التوليدي، والتي تستمر حتى يوم الجمعة، 23 فبراير، لفرصة الفوز بجوائز مثل وحدة معالجة الرسوميات GeForce RTX 4090، وتذكرة كاملة لحضور مؤتمر NVIDIA GTC شخصيًا والمزيد.
مصدر: nvidia.com
