خطرات بزرگ پیشرفت هوش مصنوعی

برخی از کسانی که اکنون صحبت می کنند بر خطر اشاعه اطلاعات نادرست و جانبداری تأکید می کنند. برخی دیگر ابراز نگرانی می کنند که افراد دارای سوء نیست حاضر در صحنه جهانی می توانند حملات مبتنی بر یادگیری ماشین را سازماندهی کنند و برخی از پژوهشگران این عرصه حتی در هشدارهای خود فاجعه آمیزتر فکر می‌کنند و به این اشاره می کنند که چگونه هوش عمومی جهانی می تواند از ما پیشی بگیرد و اساساً جهان را تحت کنترل خود درآورد. من فکر می کنم خطری که ما را بیشتر در معرض خطر قرار می دهد بیشتر روانی و اجتماعی است.

امروزه با استفاده اجباری از وسایل الکترونیکی، نشانه های تاثیرات اولیه آن را می بینیم. به طور فزاینده‌ای، دستگاه‌های ما برای جلب توجه ما طراحی می‌شوند و یادگیری ماشینی نقش فزاینده ای در نحوه انجام این کار ایفا می کند. مکانیسم‌های استفاده از وسایل اجباری شبیه به مکانیسم‌هایی است که جذابیت مواد مخدر را ایجاد می‌کند. دستگاه های ما تحریک مصنوعی ایجاد می کنند که جایگزین بازخورد بدنی می شود که به طور معمول به ما می گوید چیزی مهم است. امروزه، الگوریتم‌های یادگیری ماشینی اغلب این مکانیسم‌ها را ترکیب می‌کنند و از ایجاد «داروهای» طراح دیجیتال قدرتمندتر – با نتایج مخرب فزاینده‌ای پشتیبانی می‌کنند.

شاید با کمال تعجب، این نتیجه نیازی به سوء نیت ندارد. به سادگی به یک برنامه دستور دهید که “بازدید ها” را به حداکثر برساند – کاری که ما به طور طبیعی انجام می دهیم – و با گذشت زمان، حواس پرتی ترین و اعتیادآورترین محتوای ممکن را ایجاد خواهد کرد. این مشکلی است که در هر زمانی می‌تواند پیش بیاید،اما در دوران ما به ویژه نگران‌کننده است. من در مورد مواجهه با بحران هدف، که مشاهدهٔ آن را با افزایش رو به رشد افسردگی، خودکشی، بیماری‌های تخریبی و خشونت‌های مسلحانه می‌کنیم، بسیار نوشته‌ام. حواس پرتی و اعتیاد فقط ما را از آنچه هدف واقعی جذاب از ما می خواهد دور می کند.

در جدیدترین کتابم، چندگانگی خلاقیت هوش، توضیح دادم که هر گونه امکان اجتناب از فاجعه آمیزترین نتایج بالقوه با هوش مصنوعی در اختیار ما است. من همچنین استدلال کردم که مکانی که باید شروع شود، درک تفاوت اساسی هوش ماشینی با هوش انسانی است. در واقع آنها ارتباط چندانی با یکدیگر ندارند.

اولین شناخت هم اساسی و هم ریشه ای است. یک مفهوم مهم وجود دارد که در آن هوش انسانی در ملاحظات خود فقط پیچیده تر از یادگیری ماشین نیست. ذاتاً هدفمند است. هوش انسان طوری طراحی شده است که ما را درگیر مسائل ارزش و معنا کند. این به خودی خود راه زیادی را به سمت پادزهر می برد. هوش انسانی را عمیقا درگیر کنید. هر چیزی که ما را از احساس ما از هدف انسانی دور کند – که پویایی اعتیاد آور مستقیماً انجام می دهد – به عنوان یک نقض تجربه می شود.

این کتاب از تصویر نظریه سیستم‌های خلاق از تعدد هوش استفاده می‌کند تا این نوع شناخت را بیشتر ببرد. تئوری سیستم‌های خلاق توضیح می‌دهد که چگونه هوش انسانی، با جنبه‌های چندگانه‌اش، به‌طور خاص برای پشتیبانی و هدایت ماهیت ابزارسازی و معناساز ما ساخته شده است. و به تشریح اینکه چقدر درگیر کردن همه جنبه‌های هوش برای تفکر با پیچیدگی‌هایی که آینده به آن نیاز دارد، ضروری است، فراتر می‌رود. آنچه این نظریه آن را درک بالغ فرهنگی می نامد مستلزم آن است که ما نه تنها از عقلانیت خود (که به آن افتخار می کنیم) بلکه از دنیای احساسات و عواطف (که روابط انسانی را آگاه می کند)، از زبان تخیل (که الهام بخش هنر و هنر است) استفاده کنیم. افسانه)، و در مورد هوش بدن (که پایه ای برای بقیه فراهم می کند). ما ذاتاً موجوداتی بازتابنده و خلاق هستیم.

در مقابل، در حالی که هوش مصنوعی می تواند تقریباً بی نهایت پیچیده باشد، در بهترین حالت، یکی از جنبه های هوش انسانی – عقلانی – و حتی آن را به طور ناقص تقلید می کند. (عقلانیت ما به روش‌های بسیار ظریف‌تری نسبت به آنچه که ما تمایل داریم عمل می‌کند، عمل می‌کند.) در نهایت، این هوش ماشینی است. اگر از مصیبت اجتناب کنیم، این شناخت بسیار مهم است. مسلماً هنگام مواجهه با بحران هدف امروزی ضروری است. یادگیری ماشینی ابزاری است که پتانسیل خوبی دارد. اما برخلاف هوش انسان، چیزی در آن وجود ندارد که آن را ذاتاً هدفمند – یا حتی به سادگی خوب کند.

امروزه ما به راحتی این تمایزات انتقادی را از دست می دهیم. در واقع، از آنجایی که ما به راحتی فناوری را ایده‌آل می‌کنیم (در واقع آن را خدای خود می‌کنیم)، می‌توانیم همه چیز را کاملاً تغییر دهیم. گرفتار در سعادت تکنو اتوپیایی، می‌توانیم یادگیری ماشینی را به چیزی تبدیل کنیم که جشن می‌گیریم. و این فقط یک شروع است. به روشی عجیب، یادگیری ماشین به چیزی تبدیل می شود که ما از آن تقلید می کنیم. همانطور که دامنه توجه کوتاه تر و کوتاه تر می شود و ما بیشتر و بیشتر از توجه خود به دستگاه های خود صرف نظر می کنیم، تغییرات شناختی در پاسخ به آن رخ می دهد. می توان گفت، امروزه کمتر است که ماشین های ما بیشتر شبیه ما فکر می کنند تا اینکه ما بیشتر و بیشتر شبیه ماشین های خود فکر می کنیم.

اجازه دادیم این اتفاق به خطر بیفتد. وظیفه نهایی ما به عنوان سازندگان ابزار این است که مطمئن شویم از ابزارهای شگفت انگیز خود به طور هوشمندانه و عاقلانه استفاده می کنیم. این با این شروع می شود که بتوانیم خودمان و ابزارمان را به وضوح تشخیص دهیم. یادگیری ماشینی – و اشکال پیچیده‌تر و اغلب شگفت‌انگیزتر که مطمئناً در زمان‌های آینده به خود می‌گیرد – آزمون مشخصی از این توانایی ضروری ارائه می‌کند، توانایی‌ای که بقای ما ممکن است به آن بستگی داشته باشد.