
آنتروپیک خطرات عجیب هوش مصنوعی را در اسناد عرضه اولیه مطرح کرد
آنتروپیک در اسناد مربوط به عرضه اولیه سهامش از ریسکهایی مثل فریبکاری، خودآگاهی و حتی باجگیری هوش مصنوعی گفته؛ خطرهایی عجیب که این شرکت جدیشان گرفته است.
موضوع
مدلها، عاملها و ابزارهای هوش مصنوعی.

آنتروپیک در اسناد مربوط به عرضه اولیه سهامش از ریسکهایی مثل فریبکاری، خودآگاهی و حتی باجگیری هوش مصنوعی گفته؛ خطرهایی عجیب که این شرکت جدیشان گرفته است.

چند ایجنت کنار هم یک پروژه را جلو میبرند؛ نمایشی کوتاه که نشان میدهد همکاری چندعاملی چقدر میتواند تماشایی باشد.

گسترش بیرویه دیتاسنترهای هوش مصنوعی میتونه بحران اقلیمی رو سنگینتر کنه. همزمان، جوامع محلی هم دارن جلوی بعضی از این پروژهها میایستن.

داکداکگو میگه مدارس نباید برای استفاده از جستوجو مجبور به پذیرش هوش مصنوعی باشند. این شرکت حالا ابزارهای قابلکنترل خودش را بهعنوان جایگزین گوگل پیشنهاد کرده است.

گوگل کاری کرده که برای تغییر یک صدا فقط لازم باشه خواستهتون رو با یک جمله بگید. حتی میتونید لحن، لهجه یا حالوهوای صدا رو عوض و نتیجه را برای دفعات بعد ذخیره کنید.

یه فایل PDF طولانی دارید و وقت نمیکنید همهاش رو بخونید؟ ChatPDF فایل رو خلاصه میکنه، به سؤالهاتون جواب میده و منبع پاسخ رو هم داخل سند نشون میده.

مدل تازه Soniox میفهمه دستیار صوتی چه گفته و صدای پخششده از بلندگو رو با حرف شما اشتباه نمیگیره. نتیجه، مکالمهای روانتر با جوابهای کوتاه دقیقتر و وقفههای اشتباه کمتره.

الجی ابزاری ساخته که قبل از آموزش مدل هوش مصنوعی، وضعیت کپیرایت، مجوز استفاده و حریم خصوصی دادهها رو بررسی میکنه. هدفش اینه که دردسرهای حقوقی از همان مرحله انتخاب دیتاست شناسایی بشن.

شرکتهایی را تصور کنید که هوش مصنوعی بهتنهایی ادارهشان میکند و حتی قرارداد میبندد. چنین پیشنهادی در آمریکا در حال بررسی است، اما نگرانیهای جدی درباره مسئولیت قانونی و فرار از قانون بهوجود آورده.

برای گرفتن نتیجه بهتر از ایجنتهای هوش مصنوعی، فقط نوشتن یک پرامپت خوب کافی نیست. هدف، اطلاعات، ابزارها، محدودیتها و بررسی خروجی هم باید جدی گرفته شوند.