تأثیر لحن مؤدبانه بر هوش مصنوعی؛ چرا باید با چت‌بات‌ها مهربان باشیم؟

تیم دیگری در استارت‌آپ هوش مصنوعی Anthropic از چت ربات مورد بحث خواست تا از پاسخ‌های نژادپرستانه و جنسیتی با دستور عجیب اما ناامیدانه «واقعاً واقعاً واقعاً» اجتناب کند. علاوه بر این، دانشمندان داده گوگل به این نتیجه رسیدند که دستور متنی «نفس عمیق بکش» در یک مدل هوش مصنوعی می توان به آنها کمک کرد تا مسائل ریاضی را بهتر حل کنند.

اگرچه رفتار چت بات ها می تواند رنگ احساسی به خود بگیرد، اما باید توجه داشته باشیم که آنها مانند انسان ها هوش واقعی ندارند و فقط بر اساس دستورالعمل ها و الگوریتم ها کار می کنند. چت بات های مبتنی بر متن، سیستم های آماری هستند که به سادگی کلمات، تصاویر، صداها و سایر داده ها را با استفاده از الگوریتم های تعریف شده پیش بینی می کنند.

به عنوان مثال، ChatGPT بر اساس یک شبکه عصبی عظیم ساخته شده است که می تواند رفتار نورون ها را در مغز انسان تقلید کند. به طور کلی می توان گفت که مدل های هوش مصنوعی از منابع عظیمی از جمله صدها میلیارد کلمه در قالب های مختلف مانند کتاب، صفحات وب و هر گونه مطالب متنی دیگر استفاده می کنند که با استفاده از آنها الگوریتم ها و مدل های آماری ایجاد می کنند. برای پیش بینی اینکه جمله بعدی چه خواهد بود.

نوها دزیرهمحقق مؤسسه هوش مصنوعی آلن معتقد است که دستورات احساسی اساساً مکانیسم‌های احتمالی مدل را «دستکاری» می‌کنند. به عبارت دیگر، این دستورات بخش هایی از الگو را فعال می کنند که معمولاً با دستورات غیر احساسی عادی فعال نمی شوند.

مطابق با میلمدل‌های هوش مصنوعی برای به حداکثر رساندن احتمال دنباله‌های متن آموزش داده می‌شوند و هرچه داده‌های متنی بیشتری در طول آموزش ببینند، در تخصیص احتمالات بیشتر به دنباله‌های مکرر کارآمدتر می‌شوند و عملکرد بهتری را نشان می‌دهند. بنابراین، مودب بودن به این معنی است که درخواست های خود را به گونه ای بیان کنید که با الگوی تطبیق مدل مطابقت داشته باشد تا احتمال اینکه ربات چت نتیجه دلخواه را ارائه دهد افزایش یابد. با این حال، نباید انتظار داشت که چت بات‌ها به راحتی تمام مشکلات استدلال را با درخواست‌های مؤدبانه حل کنند یا توانایی‌های استدلال انسانی را توسعه دهند.