هوش مصنوعی فوقپیشرفته؛ تهدیدی بزرگ برای آینده بشر
- admin
- تیر 1, 1398
- 12:51 ب.ظ
- بدون نظر
- چاپ صفحه
درست سهونیم میلیارد سال پیش، شکلهای اولیهی حیات روی زمین به وجود آمدند. چهار میلیون سال پیش بود که ظرفیت مغز هومونیدها (میمونهای شبهانسان) به طرز چشمگیری افزایش یافت. پنجاههزار سال پیش، انسان خردمند ظهور کرد. ۱۰ هزار سال پیش، تمدن به وجود آمد. ۵۰۰ سال پیش، چاپ اختراع شد. ۵۰ سال پیش کامپیوتر اختراع شد و «این» در کمتر از ۳۰ سال به پایان میرسدجان تالین در سال ۲۰۰۷ در مقالهای آنلاین به نام «خیره به تکینگی» به جملات بالا برخورد (براساس فرضیهی تکینگی فناوری، روزی رشد فناوری بهحدی میرسد که از کنترل انسان خارج میشود و تغییرات غیرقابل بازگشتی را در تمدن بشر ایجاد میکند). در جملهی آخر پاراگراف بالا منظور از «این»، تمدن انسانی است. به عقیدهی مؤلف این مقاله، بشر با ظهور ابَرهوش یا هوش مصنوعی فراتر از هوش انسان در بسیاری از حوزهها، به پایان خود نزدیک میشود.
تالین، برنامهنویس کامپیوتر متولد استونی است که در زمینهی فیزیک هم سابقه دارد. او زندگی را به یک مسئلهی برنامهنویسی بزرگ تشبیه میکند. تالین در سال ۲۰۰۳ بهعنوان یکی از بنیانگذاران اسکایپ به توسعهی بکاند این اپلیکیشن پرداخت. او برای رسیدن به هدفی جدید، دو سال بعد سهم خود را به eBay فروخت. مقالهی «خیره به تکینگی» ترکیبی از کد کامپیوتر، فیزیک و نقلقولهای کالوین و هاب بود.
هدف تالین پیشگیری از این اتفاق بود. به همین دلیل، برای چند جلسه به غرب کالیفرنیا رفت و با یودکفسکی ملاقات کرد. بحث آنها چهار ساعت به طول انجامید. یودکفسکی از توانایی منحصربهفرد تالین در درک مفاهیم اصلی و جزئیات، ابراز رضایت کرد.
تالین چکی به مبلغ ۵۰۰۰ دلار برای مؤسسهی SIAI (مؤسسهی تکینگی هوش مصنوعی) نوشت، مؤسسهای غیرانتفاعی که یودکفسکی یکی از پژوهشگرهای آن بود. (نام این مؤسسه در سال ۲۰۱۳ به Machine Intelligence Research Institute یا MIRI تغییر پیدا کرد). از آن زمان تالین بیش از ۶۰۰ هزار دلار به این مؤسسه پرداخت کرده است.
تالین پس از ملاقات با یودکفسکی هدف خود را مشخص کرد و مأموریت نجات انسان از دست مخلوقات هوشمند خود را آغاز کرد. او پس از در میان گذاشتن مشکل با نظریهپردازان و دانشمندان کامپیوتر، برای سخنرانی در مورد تهدیدهای بالقوهی ابَرهوش، سفر به سراسر دنیا را آغاز کرد.
او کار خود را با سرمایهگذاری پژوهشی بر یکی از راههای فرار انسان یعنی هوش مصنوعی دوستانه آغاز کرد. در اینجا منظور از هوش مصنوعی دوستانه، ربات یا دستگاهی نیست که در مورد آبوهوا با شما صحبت کند یا نام فرزندانتان را انتخاب کند (گرچه هوش مصنوعی فوق هوشمند قادر به انجام تمام این کارها است). حتی هدف هوش مصنوعی دوستانه، عشق یا نوعدوستی نیست. بسیاری بهاشتباه تصور میکنند هوش مصنوعی دوستانه از ارزشها و اختیارت انسانی برخوردار است درحالیکه «دوستانه» در اینجا معنای بنیادیتری دارد: ماشینهای فردا برای رسیدن به اهداف خود، انسان را حذف نمیکنند.
تالین در سن ۴۶ سالگی، کارآفرین فناوری است. او معتقد است بهلطف پیشرفتهای علمی (درصورتیکه هوش مصنوعی انسان را نابود نکند)، میتواند سالهای سال زنده بماند. نگرانی او در مورد ابَرهوش از دید پیروان او نگرانی متداولی است. مؤسسهی پیتر تیل یکی از بنیانگذاران PayPal، مبلغ ۱.۶ میلیون دلار به MIRI تخصیص داده است و در سال ۲۰۱۵، ایلان ماسک، بنیانگذار تسلا، ۱۰ میلیون دلار را روی مؤسسهی Future of Life سازمان امنیت فناوری مستقر در ماساچوست کمبریج سرمایهگذاری کرد.