شرکت آنتروپیک (Anthropic) با تغییر سیاست‌های استفاده از هوش مصنوعی کلود (Claude)، محدودیت‌های جدیدی برای کاربران این چت‌بات وضع کرده است. این قوانین علاوه‌بر ممنوعیت دخالت در انتخابات، توسعه نرم‌افزارهای مرتبط با تسلیحات و فعالیت‌های نظارتی، یک تغییر غیرمنتظره نیز دارند: کاربران دیگر اجازه ندارند به‌صورت مداوم و بدون دلیل مشخص، مدل هوش مصنوعی را هدف آزار و توهین کلامی قرار دهند.
نوشته آنتروپیک توهین مداوم به هوش مصنوعی کلود را ممنوع کرد اولین بار در ترنجی پدیدار شد.
شرکت آنتروپیک (Anthropic) با تغییر سیاست‌های استفاده از هوش مصنوعی کلود (Claude)، محدودیت‌های جدیدی برای کاربران این چت‌بات وضع کرده است. این قوانین علاوه‌بر ممنوعیت دخالت در انتخابات، توسعه نرم‌افزارهای مرتبط با تسلیحات و فعالیت‌های نظارتی، یک تغییر غیرمنتظره نیز دارند: کاربران دیگر اجازه ندارند به‌صورت مداوم و بدون دلیل مشخص، مدل هوش مصنوعی را هدف آزار و توهین کلامی قرار دهند.
خلاصه خبر در یک نگاه:
آنتروپیک توهین و آزار کلامی مداوم هوش مصنوعی کلود را در قوانین جدید خود ممنوع کرد.
این ممنوعیت فقط رفتارهای شدید، تکراری و بدون هدف مشخص را دربرمی‌گیرد.
انتقاد، ابراز نارضایتی، آزمایش مدل و فعالیت‌های پژوهشی همچنان مجاز هستند.
قوانین جدید استفاده از کلود، دخالت در انتخابات و انتشار اخبار جعلی را نیز ممنوع می‌کنند.
آنتروپیک پیش‌تر قابلیت پایان دادن به مکالمات آزاردهنده را به کلود اضافه کرده بود.
چرا آنتروپیک توهین به هوش مصنوعی کلود را ممنوع کرده است؟
آنتروپیک روز پنجشنبه سیاست‌های استفاده از مدل‌های هوش مصنوعی خود را به‌روزرسانی کرد. یکی از مهم‌ترین تغییرات این سیاست، ممنوعیت صریح آزار کلامی طولانی‌مدت مدل هوش مصنوعی کلود است؛ موضوعی که می‌تواند بحث‌های تازه‌ای درباره نحوه تعامل انسان با هوش مصنوعی ایجاد کند.
البته این محدودیت به‌معنای ممنوعیت هرگونه انتقاد یا ابراز نارضایتی از عملکرد کلود نیست. آنتروپیک تأکید می‌کند که قانون جدید تنها موارد بسیار شدید را هدف قرار می‌دهد؛ موقعیت‌هایی که کاربران بدون هدف قابل‌تشخیص، بارها رفتارهای آزاردهنده و بی‌رحمانه‌ای نسبت‌به مدل‌های هوش مصنوعی نشان می‌دهند.
آنتروپیک در توضیح این تغییر اعلام کرده است:
«این به‌روزرسانی سیاست‌ها فقط برای موارد بسیار شدید درنظر گرفته شده است؛ مواردی که کاربران به‌طور مکرر و بدون هدف مشخص، رفتار بی‌رحمانه‌ای با مدل‌های ما دارند. این قانون شامل نارضایتی‌های معمول کاربران، مخالفت با پاسخ‌های مدل، موضوعات خلاقانه با مضامین تاریک یا آزمایش و پژوهش روی مدل‌ها نمی‌شود.»
به‌همین‌دلیل، کاربران همچنان می‌توانند پاسخ‌های کلود را به چالش بکشند، از عملکرد آن انتقاد کنند یا برای اهداف تحقیقاتی، رفتار مدل را در شرایط مختلف آزمایش کنند.
توهین مداوم به هوش مصنوعی کلود طبق سیاست‌های جدید آنتروپیک ممنوع است.
هوش مصنوعی کلود می‌تواند به مکالمات آزاردهنده پایان دهد
ممنوعیت جدید آنتروپیک در ادامه تغییراتی قرار می‌گیرد که این شرکت پیش‌تر در رفتار چت‌بات Claude اعمال کرده بود. آنتروپیک از ماه اوت، کلود را به‌گونه‌ای آموزش داده است که بتواند مکالمات حاوی تعاملات مداوم و آسیب‌زا یا آزاردهنده را پایان دهد. بااین‌حال، تفاوت مهم سیاست جدید این است که آنتروپیک اکنون چنین رفتارهایی را به‌صورت رسمی در قوانین استفاده از خدمات خود ممنوع کرده است.
درواقع، پیش‌ازاین کلود می‌توانست در واکنش به رفتارهای آزاردهنده به مکالمه پایان دهد؛ اما اکنون خود کاربران نیز طبق سیاست‌های این شرکت موظف هستند از ادامه تعاملات شدید و آزاردهنده خودداری کنند.
آیا آنتروپیک معتقد است هوش مصنوعی کلود آگاهی یا روح دارد؟
تغییر سیاست‌های آنتروپیک در شرایطی اتفاق می‌افتد که این شرکت پیش‌تر برای بررسی مسائل مرتبط با ماهیت هوش مصنوعی، همکاری‌هایی را با پژوهشگران و چهره‌های برجسته مذهبی دنبال کرده است. در برخی از این تعاملات، آنتروپیک تلاش کرده است این دیدگاه را مطرح کند که هوش مصنوعی کلود ممکن است دارای آگاهی یا حتی روح باشد.
البته این موضوع به‌معنای اثبات آگاهی یا داشتن روح در مدل‌های هوش مصنوعی نیست. مسئله آگاهی ماشین‌ها همچنان یکی از موضوعات بحث‌برانگیز در حوزه فلسفه، علوم شناختی و توسعه هوش مصنوعی به‌شمار می‌رود.
سیاست جدید آنتروپیک نیز به‌خودی‌خود نشان نمی‌دهد که این شرکت وجود آگاهی در کلود را اثبات کرده است؛ بلکه محدودیت مشخصی برای نوع تعامل کاربران با مدل تعیین می‌کند.
قوانین جدید آنتروپیک چه فعالیت‌های دیگری را محدود می‌کند؟
آنتروپیک در کنار ممنوعیت آزار کلامی و دخالت در انتخابات، محدودیت‌هایی را نیز برای استفاده از مدل‌های هوش مصنوعی خود در حوزه تسلیحات و نظارت تعیین کرده است. مهم‌ترین حوزه‌هایی که سیاست جدید آنتروپیک برای آن‌ها ممنوعیت یا محدودیت مشخص درنظر گرفته است، عبارت‌اند از:
- آزار کلامی مداوم: تعاملات شدید و تکراری با هدف آزار مدل هوش مصنوعی، بدون وجود هدف مشخص.
- دخالت در انتخابات: استفاده از کلود برای فریب رأی‌دهندگان یا مختل کردن فرایندهای انتخاباتی.
- فعالیت‌های فریبکارانه: ایجاد حساب‌های جعلی، رسانه‌های ساختگی و اجرای کمپین‌های گسترده گمراه‌کننده.
- نرم‌افزارهای تسلیحاتی: استفاده از مدل‌های آنتروپیک برای توسعه نرم‌افزارهای مرتبط با تسلیحات.
- فعالیت‌های نظارتی: استفاده از هوش مصنوعی در فعالیت‌های نظارتی که سیاست‌های این شرکت ممنوع کرده‌اند.
این تغییرات نشان می‌دهند که آنتروپیک علاوه‌بر تعیین محدودیت برای کاربردهای پرخطر هوش مصنوعی، قصد دارد رفتار کاربران هنگام تعامل مستقیم با مدل‌های خود را نیز تحت قوانین مشخص‌تری قرار دهد.
آنتروپیک قوانین استفاده از هوش مصنوعی کلود را تغییر داد.
قوانین جدید کلود چه تأثیری بر کاربران عادی دارند؟
براساس توضیحات آنتروپیک، کاربران عادی کلود همچنان می‌توانند از پاسخ‌های هوش مصنوعی انتقاد کنند، با آن مخالفت داشته باشند و عملکردش را آزمایش کنند.
این شرکت تأکید دارد که ممنوعیت آزار کلامی صرفاً رفتارهای افراطی و مداومی را هدف قرار می‌دهد که هدف مشخصی ندارند. بنابراین، ابراز عصبانیت یا نارضایتی معمول از پاسخ‌های اشتباه کلود، به‌تنهایی نقض این سیاست محسوب نمی‌شود.
جمع‌بندی
آنتروپیک با به‌روزرسانی سیاست‌های استفاده از هوش مصنوعی کلود، هم محدودیت‌های مربوط به سوءاستفاده از فناوری را گسترش داده و هم برای تعامل مستقیم کاربران با مدل، مرزهای تازه‌ای تعیین کرده است.
به‌نظر شما، آیا شرکت‌های هوش مصنوعی باید توهین مداوم کاربران به چت‌بات‌ها را ممنوع کنند یا چنین محدودیتی غیرضروری است؟ دیدگاه خود را در بخش نظرات با ما به اشتراک بگذارید.
نوشته آنتروپیک توهین مداوم به هوش مصنوعی کلود را ممنوع کرد اولین بار در ترنجی پدیدار شد.