مقیاس تورین برای هوش مصنوعی و کارهایی که باید با آن کرد

1 اخلال در بازار سهام از طریق پیش بینی روند فوق کارآمد:

هوش مصنوعی به روش های مختلفی برای بهبود کارایی معاملات سهام توسط شرکت های بزرگ مورد استفاده قرار می گیرد. تا کنون، استفاده معمولی در تجزیه و تحلیل و به عنوان یک کمک تصمیم گیری انسانی بوده است، اما در آینده ممکن است استفاده از آنها مستقل تر شود. من نمی‌دانم سیستم‌هایی به چنین عملکرد بالایی دست پیدا می‌کنند که سیستم را خراب کنند، اما چنین سناریویی را نمی‌توان در درازمدت رد کرد. بازارهای سهام در سرتاسر جهان مکانیسم‌های داخلی برای واکنش به فعالیت‌های سوداگرانه غیرعادی دارند، مانند مکانیسم قطع نوسان یا حتی پروتکل‌های قوی‌تر که می‌تواند فعالیت‌های معاملاتی را به طور کامل متوقف کند، اما ممکن است این مکانیسم‌ها برای مدیریت یک سیستم فوق‌هوشمند بسیار کند باشد. مجدداً، به نظر می‌رسد مسئله در اینجا تعادل تحولات جدید و اقدامات متقابل در یک وضعیت به سرعت در حال تحول است. احتمال اثرات نامطلوب ممکن است فقط در کوتاه مدت افزایش یابد و شدت نتایج متوسط ​​ارزیابی می شود. در بلندمدت، بازارهای سهام در برابر مداخله مبتنی بر هوش مصنوعی مقاوم‌تر می‌شوند، به این دلیل ساده که می‌توان پیش‌بینی کرد اکثر معاملات خودکار می‌شوند.

2 از دست دادن مداوم اعتبار در اخبار و دستکاری افکار عمومی:

ایجاد اخبار جعلی و استفاده از آن برای آلوده کردن بازار اطلاعات شروع شده است. امروزه الگوهای بزرگ زبان را می توان به راحتی برای تولید محتوای مضر و مخرب سفارشی کرد. استفاده‌های قابل‌توجه اخیر از چت‌بات‌ها، توزیع خودکار محتوای جعلی در رسانه‌های اجتماعی، و سیستم‌های هوش مصنوعی تولید محتوا مشابه، به عنوان مثال برای سوگیری رای‌دهندگان ایالات متحده در انتخابات ۲۰۲۰ یا تضعیف اعتماد به واکسن‌ها استفاده شده‌اند. علاوه بر این، امروزه می توان از سیستم های پردازش تصویر برای ایجاد “جعل عمیق” استفاده کرد. عکس ها و فیلم هایی که ظاهر آنها از فیلم واقعی قابل تشخیص نیست. در حالی که آلودگی بزرگراه‌های اطلاعاتی تاکنون عمدتاً محدود به اهداف خاص بوده است، استفاده از آن برای سوگیری افکار عمومی در صورت وقوع جنگ یا سایر موقعیت‌های بزرگ، بی‌اعتمادی عمومی نسبت به هر منبع اطلاعاتی و خبری ایجاد می‌کند. بنابراین احتمال این نتیجه بسیار زیاد است – به طور کلی در زمان نگارش قطعی است. با این حال، ما معتقدیم که اقدامات متقابل مؤثر احتمالاً در میان مدت در دسترس و به طور گسترده استفاده می شود. بنابراین، این تهدید احتمالاً بیشتر مربوط به دوره انتقالی است که سیستم‌های هوش مصنوعی قدرتمند برای کاربردهای عمومی ارائه می‌شوند، زمانی که اقدامات تعادلی هنوز توسعه یا توافق نشده است.

3 اختلالات اجتماعی ناشی از اتوماسیون کار:

این تهدید جهانی به تفصیل توسط تعدادی از منابع مورد بحث قرار گرفته است. به طور کلی پذیرفته شده است که تعدادی از وظایف با ماهیت تکراری – مانند بهره برداری و مدیریت وسایل نقلیه برای حمل و نقل افراد یا کالاها، تحویل کالا به کاربران نهایی، وظایف پردازش میانی در زنجیره های تولید و بسیاری دیگر – خواهد بود. به طور قابل توجهی تحت تأثیر جایگزینی اپراتورهای انسانی با سیستم های خبره مبتنی بر هوش مصنوعی به دلیل منافع اقتصادی دومی. این روند در حال حاضر آغاز شده است و تنها در کوتاه مدت تشدید خواهد شد. به طور مشابه، تأثیر هوش مصنوعی بر آموزش در دسترسی گسترده به ترجمه گفتار بلادرنگ، افزایش اعتماد به خروجی مدل‌های زبانی بزرگ، و تولید خودکار محصولات صوتی/تصویری آموزشی مشهود خواهد بود. با این حال، بسیاری از کارشناسان استدلال می‌کنند که انسان‌ها جایگزین نمی‌شوند، بلکه با کمک هوش مصنوعی توانمند می‌شوند و تأثیری مفید و واجد شرایط بر شرایط کاری آن‌ها خواهند داشت. باید دید نتیجه خالص انتقال فعلی چه خواهد بود، اما اگر فقط به احتمال و شدت پیامدهای منفی در این زمینه نگاه کنیم، باید آنها را در هر دو مورد متوسط ​​ارزیابی کنیم. این نیز احتمالاً یک اثر گذرا خواهد بود، بنابراین من معتقدم این تأثیر در دراز مدت به سطح پایینی از شدت کاهش خواهد یافت.

4 تأثیر مضر ابزارهای جدید هوش مصنوعی رایگان در دسترس بر جامعه:

هنگامی که ChatGPT3 منتشر شد، مربیان و دانشگاهیان در سراسر جهان فوراً تأثیر مخربی را که این ابزار جدید و به راحتی در دسترس بر روی سیستم درجه‌بندی تکالیف دانش‌آموز خواهد داشت، دریافتند. نشان دادن اینکه مدل های زبان بزرگ می توانند به راحتی سطح بیانی، اصطلاحات و محتوای یک دانش آموز دبیرستانی را تقلید کنند و بنابراین توسط دانش آموز دوم برای کاهش شدید زمان لازم برای یادگیری مطالب آموزشی بدون هیچ خطری استفاده شود، وضعیت دشواری را در بسیاری از سیستم های مدرسه ایجاد کرده است. . من این را نمونه‌ای از اثرات جانبی منفی فناوری‌های جدید می‌دانم که در غیر این صورت نتیجه مثبتی را برای جامعه نشان می‌دهد.

5 توسعه ارتش ها و سلاح های مجهز به هوش مصنوعی:

موضوع هوش مصنوعی برای کاربردهای نظامی پیچیده است که عمدتاً به دلیل عدم آگاهی در مورد وضعیت تحقیق و توسعه در این زمینه است. اطلاعات معمولاً در دسترس عموم قرار نمی گیرد، بنابراین به سختی می توان پیش بینی کرد که تحولات آینده چه خواهد بود. تولید سلاح‌های جدید و دستگاه‌های حمله خودکار یا خودکار چندین خطر مختلف را ایجاد می‌کند: پتانسیل تسلط بر جهان توسط کشوری که برای اولین بار به فناوری جدیدی دست می‌یابد که قدرت تخریب بیشتری یا سایر اشکال سلطه را ارائه می‌دهد، تنها یکی از آنهاست. خطرات دیگر، مانند حرکت به سمت جوامع دیستوپیایی با کنترل فوق اقتدارگرایانه توسط موجودات روباتیک، در آثار علمی تخیلی و فیلم های مختلف مورد توجه قرار گرفته است. به طور کلی، شدت خطرات از متوسط ​​تا زیاد متغیر است، اما ارزیابی احتمال آن آسان نیست. در این شرایط، ترجیح می‌دهم محتاط باشم و در سه بازه زمانی در نظر گرفته شده، شانس‌ها را کم، متوسط ​​و زیاد ارزیابی کنم.

6 مدیریت سیستم های حیاتی را به الگوریتم های هوش مصنوعی برون سپاری کنید:

مزایای اقتصادی اتوماسیون یک روند کلی برای جایگزینی تصمیمات انسانی با الگوریتم ها ایجاد می کند. اگرچه دومی ممکن است نرخ شکست کمتری را نشان دهد (همانطور که قبلاً در برخی موارد مانند تشخیص آسیب شناسی از تصاویر بالینی وجود دارد) و بنابراین به طور کلی در کارهای معمولی مفید است، ما در اینجا نگران این واقعیت هستیم که چنین جایگزینی و خودکارسازی تصمیم گیری رویه ها شامل خطرات مربوط به رفتار یا عملکرد نادرست است که در مرحله طراحی در نظر گرفته نشده و منجر به اثرات فاجعه آمیز می شود. یکی از این نمونه ها شکست معروف یک سیستم هشدار اولیه برای شناسایی پرتاب موشک های بالستیک قاره پیما توسط ایالات متحده به سمت اتحاد جماهیر شوروی است. در 26 سپتامبر 1983، همسویی نادر ماهواره شناسایی با خورشید و با میدان دید قلمرو ایالات متحده باعث شد که این سیستم از پرتاب پنج موشک گزارش دهد، در حالی که در واقع این کشف یک مصنوع به دلیل تابش نور خورشید بود. تنها حضور “مردی در وسط” و سوء ظن حمله ای که تنها شامل 5 موشک بود، مانع از حمله تلافی جویانه ای شد که می توانست آغازگر یک جنگ هسته ای باشد. به طور کلی، خطر اعتماد بیش از حد در یک تصمیم خودکار را نمی توان در صورتی که به سیستم های خاص تحت کنترل مرتبط باشد، کمی سازی کرد، اما همچنان می توانیم شدت بالقوه آن را به طور کلی به عنوان متوسط ​​ارزیابی کنیم. احتمال اثرات نامطلوب را می‌توان در کوتاه‌مدت متوسط ​​و در مقیاس‌های زمانی طولانی‌تر کم/خیلی کم ارزیابی کرد، زیرا ما به سیستم‌های اعتبارسنجی خود اطمینان پیدا می‌کنیم و اقدامات متقابل قوی‌تر و قابل اعتمادتری طراحی می‌کنیم.

7 هوش فوق العاده ایجاد می شود و اهدافی را توسعه می دهد که با اهداف بشریت همسو نیستند:

این سناریو در گذشته به طور گسترده مورد بحث قرار گرفته است، از جمله در ادبیات علمی تخیلی. توسعه سیستمی با توانایی‌های مافوق بشری در طیف وسیعی از وظایف، مستلزم این امکان است که سیستم توانایی تأمل در خود و نقش خود را به دست آورد و سپس اهدافی غیر از اهدافی را که در ابتدا برای آن در نظر گرفته شده بود توسعه دهد. این می تواند باعث شود که او با انسان ها دشمنی کند یا به سادگی اهداف خود را به گونه ای دنبال کند که با زندگی انسان در سیاره ما در تضاد باشد. در هر صورت، خطر وجودی با بالاترین شدت است، و بنابراین، صرف نظر از احتمال درک شده یا تخمین زده شده، باید در مقیاس امتیاز بسیار بالایی داشته باشد.

با آن چه کنیم؟

در حالی که استفاده از مقیاس اصلی تورینو آسان است – به این سوال پاسخ می دهد که کدام سیارک باید در آینده با دقت بیشتری رصد شود (زمان تلسکوپ هزینه منابع و هزینه دارد)، تهیه مقیاس تورینو برای هوش مصنوعی کاربرد کمتری دارد.

باید تاکید کرد که مقیاس بر اساس برآوردهای کاملاً دلخواه از احتمال و در سطوح بسیار قابل بحث از شدت است. بنابراین، مقادیر مقیاس نمی توانند مبنای تصمیم گیری های مستدل باشند – به عنوان مثال. تخصیص منابع برای نظارت بر وضعیت در دسته های مختلف. از سوی دیگر، شاید دقیقاً این واقعیت است که تعریف سطوح شدت دشوار است که جدول را مفید می کند: این ما را مجبور می کند در مورد ارزیابی های مختلف فکر کنیم و می تواند راه بسیار خوبی برای شروع یک بحث جهانی در مورد مشکل رایج باشد. مواجهه با تهدیدات بالقوه هوش مصنوعی به شیوه ای منظم و ساختارمند.

ناقص بودن فهرست نیز انگیزه ای برای اضافه کردن موارد به آن و پرسیدن در مورد چیزهایی است که ممکن است از دست داده باشیم. در هر صورت، بحث آزاد درباره این موضوعات در همه سطوح – رسانه های اجتماعی، مقالات علمی، نهادها، سیاستمداران – فقط می تواند مفید باشد، زیرا حداقل باعث افزایش آگاهی خواهد شد. با توجه به سرعت ظهور تحولات جدید، نمی توان به تهدیدهای مرتبط توجه کافی کرد.