منتشرشده در نشریه شماره ۳۴ آفتاب خاورمیانه - اسفند ۱۴۰۲
ترجمه قاسم سرافرازی
مترجم حوزه فناوری
تا همین چند سال پیش، هر کس به هوش مصنوعی کامپیوترها و حضور ماشینها در جوامع انسانی فکر میکرد، ناباورانه فیلمهای تخیلی هالیوودی مانند ماتریکس و ترمیناتور را به ذهن میآورد. در طی کمتر از یکی-دو دهه، هوش مصنوعی بهصورت مستقیم و غیرمستقیم، از چتجیپیتی گرفته تا اپل ویژن پرو، از دور یا نزدیک وارد زندگی بسیاری از ما شده است. مقاله حاضر که از نشریه هاروارد بیزنس ریویو (HBR) ترجمه شده است، تلاش میکند جهانی را توصیف کند که هوش مصنوعی بهطور کلی زندگی شخصی و حرفهای را در آن متحول کرده است.
خیزش ابزارها
در طول تاریخ، فناوریها برای انسان، فقط در حد ابزار بودهاند؛ وسیلههایی مانند چرخ، موتور بخار، کامپیوترهای شخصی و غیره چه برای ساختن و آبادانی و چه برای از بین بردن و تخریب، همیشه تحت کنترل انسانها بودهاند و بهشیوههای قابلپیشبینی و مبتنی بر قواعد ازپیش تعریفشده رفتار کردهاند. اما این وضعیت در حال تغییر است؛ نسل جدید سیستمهای هوش مصنوعی دیگر صرفا ابزار ما نبوده و در حال تبدیل شدن به نقشآفرینانی هستند که بدون نیاز به انسانها تصمیم میگیرند، عمل میکنند و به جهان اقتصادی و اجتماعی ما شکل میدهند.
در آیندهای نهچندان دور این نقشآفرینان جدید ممکن است همکاران ما بشوند یا رقبا، روسا و حتی کارمندان ما. آنها در بین ما، جای خود را باز میکنند و حضوری همهجانبه و فراگیر خواهند داشت. با نقشآفرینی گسترده هوش مصنوعی، ما در آغاز راه تغییرات بزرگ در زندگی شخصی، حرفهای و اجتماعی، نوع مشارکت در امور اجتماعی و اینکه چه چیزی در اولویت است، قرار گرفتهایم.
عصر سیستمهای خودآگاه
هوش مصنوعی سالهاست که بر جنبههای مختلف زندگی ما (از تشخیص چهره تا امتیازات اعتباری) تاثیر میگذارد. و اینکه الگوریتمهای توصیه محتوای فیسبوک بر سلامت روانی و نتایج انتخابات تاثیرگذارند، موضوعی ثابت شده است؛ اما نسل جدیدی از سیستمهای هوش مصنوعی در راه هستند که توان تاثیرگذاری بسیار بالاتری دارند. این سیستمها ویژگیها و ظرفیتهای متمایزی ارائه میدهند که تاثیرگذاری آنها را عمیقتر میکنند. آنها دیگر در پسزمینه زندگی ما نیستند بلکه با ما مستقیما تعامل خواهند داشت و خروجی آنها میتواند بهطرز شگفتانگیزی به عملکرد انسانها شبیه باشد. آنها قادرند از معیارهای انسانی در همه حوزهها (از درک زبان گرفته تا کدنویسی) فراتر بروند.
در ابتدا باید آنچه که این نقشآفرینان جدید ارائه میدهند، میزان تواناییشان و اینکه چگونه باید با آنها کار کنیم را بشناسیم، تا از این تصور که نسل جدید سیستمهای هوش مصنوعی صرفا مجموعهای از ابزارها هستند، فراتر برویم. در عوض میتوانیم این سیستمها را تحتعنوان "اتوساپینس" (Autosapiens) یا خودآگاه در نظر بگیریم. "خودکار و مستقل" (Auto) به این دلیل که میتوانند "مستقل عمل کنند"، "تصمیم بگیرند"، "از تجربیات بیاموزند"، "با موقعیتهای جدید سازگار شوند" و "بدون دخالت یا نظارت مستمر عامل انسانی فعالیت کنند". "خردمند و آگاه" (Sapiens) از این منظر که دارای نوعی هوش و قدرت استدلال هستند. این سیستمها ظرفیت بالایی برای قضاوتهای پیچیده در حوزههای مختلف دارند و قادرند با انسانها رقابت کرده و در بسیاری از عرصهها از ما پیشی بگیرند.
اگرچه این سیستمها هنوز نوپا هستند، اما چهار ویژگی کلیدی را به نمایش میگذارند؛ آنها استقلال عمل دارند، انطباقپذیر هستند (یاد میگیرند)، رفتار دوستانه و صمیمانه را تقلید میکنند و رازآلود و غیرشفافند.
استقلال عمل
ویژگی اساسی سیستمهای خودآگاه این است که اغلب بدون نیاز به دخالت انسان میتوانند اقدامات پیچیده چندمرحلهای انجام دهند، تصمیم بگیرند و نوعی خروجی تولید کنند که در دنیای واقعی کاربرد داشته باشد. آنها این کار را متفاوت از انسانها و بدون بهرهمندی از عقل و شعور انسانی انجام میدهند.انطباقپذیری
صمیمیت مصنوعی
عدمشفافیت
تغییر مناسبات قدرت
تغییر در جریان ایدهها و اطلاعات
تغییر جایگاه متخصصان
ظهور سیستمهای خودآگاه فرصتهای جدیدی را به وجود خواهد آورد. برای به دست آوردن این فرصتها، مدیران باید مهارتها و رویکردهای جدید را با آغوش باز بپذیرند.
تغییر روند خلق ارزش
در سپهر قدیم قدرت، موانع زیادی برای راهاندازی یک کسبوکار (از تولید کفش گرفته تا انتشار روزنامه) وجود داشت و نیاز به نیروی کار، ماشینآلات و سرمایه فراوانی بود. در سپهر جدید قدرت، افراد بیشتری توانستهاند در حوزههایی خاص، از جمله ایجاد محتوا (در یوتیوب و اینستاگرام) و کسب درآمد از داراییها (تاکسیهای اینترنتی، اجاره اقامتگاه و غیره) خلق ارزش کنند. با این حال پلتفرمهای فناوری که این نوع فعالیتها را تسهیل میکردند، بسیاری از غنائم را به خود اختصاص دادهاند.
در عصر خودآگاهی، هوش مصنوعی این پتانسیل را دارد که راهاندازی یک کسبوکار با قابلیت رشد و خلق ارزش اقتصادی را برای هر کس در هر جایی آسانتر کند. بهعنوان نمونه چتجیپیتی به افراد این امکان را میدهد که وظایف پیچیده و چندمرحلهای برای سیستمهای خودآگاه تعیین کنند (هر چیزی که فکرش را بکنید از توسعه یک برنامک دوستیابی جدید تا طراحی ساختمان و انواع نرمافزار کاربردی). چنین وظایفی قبلا در حیطه متخصصان، مشاوران یا شرکتهای بزرگ بود، اما بهزودی این فعالیتها با کمترین تخصص فنی، سرمایه یا نیروی انسانی انجامشدنی خواهد بود.
این پدیده میتواند رشد بیسابقهای را در توانایی اجرا و خلق نوآوری فراهم کند که برای شرکتهای بزرگ هم تهدید و هم فرصت به حساب میآید؛ تهدید، چرا که درها را به روی رقبای جدید باز میکند و فرصت به این علت که اکوسیستم بزرگتری از ایدهپردازان، ایجاد میکند.
با این حال ممکن است همه چیز بهخوبی پیش نرود؛ ممکن است ظرفیت و امکان خلق ارزش برای عموم افراد بیشتر شود اما شاید کسب ارزش بههمین منوال صورت نگیرد. درست همانطور که پلتفرمهای فناوری در سپهر جدید قدرت، اغلب غنائم را به دست آوردهاند، شرکتهای بزرگ هوش مصنوعی که این مدلها را توسعه داده و مالک این مدلها هستند نیز احتمالا راهی پیدا خواهند کرد تا بخش عمدهای از ارزش ایجاد شده را به خود اختصاص دهند. در کل، با توسعه سیستمهای هوش مصنوعی عدهای ممکن است بهنحو فوقالعادهای ثروتمند شوند، اما گروه دیگری که از این روند جا میمانند شغلشان را از دست میدهند یا به کارهای کمدرآمدی مانند برچسبگذاری دادهها، مشغول میشوند.
تغییر رابطه انسان و فناوری
مهمترین ویژگی سپهر جدید قدرت در زمینه فناوری، این بود که اساسا نوع تعامل ما با فناوری تغییر کرده است؛ ما در رابطه با فناوری از موجوداتی غیرفعال و تنبل به مشارکتکنندگان فعال تبدیل شدهایم. اما با وجود تمام جاذبهای که دنیای دیجیتال دارد، ما هنوز تمایل داریم بین ماهیت آنلاین (برخط) و آفلاین (برونخط) خود تمایز قائل شویم.
در عصر خودآگاهی، تمایز بین آنلاین و آفلاین ممکن است از بین برود و نوعی تعامل دائمی با فناوری دیجیتال ایجاد شود که میتوان آن را "درخط یا اینلاین" (in-line) نامید. ممکن است اینطور به نظر برسد که این فناوریها درون ما جریان پیدا خواهند کرد و در برخی مواقع واقعا اینطور خواهد بود. بهعنوان نمونه میتوان به هدست واقعیتِ ترکیبی "اپل ویژن پرو"، سایر گجتهای پوشیدنی و فناوریهای مبتنی بر سنسور اشاره کرد. این گروه فناوریها بدن و ذهن ما را با دستگاهها ترکیب کرده و تجربیات جدیدی به ما میدهند. از سوی دیگر این پدیدهها ممکن است این احساس را ایجاد کنند که قادر نیستیم از آنها رهایی پیدا کنیم. نظارت همهجانبه، جمعآوری فوقالعاده دادههای کاربران و بازاریابی بیشازحد شخصیسازیشده توسط شرکتها از پیامدهای منفی این نوع فناوریها هستند.
مدیران و سازمانها باید تاثیرات فناوریهای "اینلاین" را بسنجند و برای اصلاح سیاستها و رویههایی که اثرات منفی بهدنبال دارد آمادگی لازم را داشته باشند. آنها همچنین باید بهنحوی از فناوری استفاده کنند که همچنان عامل انسانی برتری خود را حفظ کند.
تغییر در مدیریت و حکمرانی
سپهر جدید قدرت در سالهای اخیر شیوههای حکمرانی سنتی را به چالش کشید اما نتوانسته آنها را حذف کند. ما شاهد تلاشهایی در راستای حکمرانی شبکهای (از ابتکارات دادههای باز گرفته تا بودجهبندی مشارکتی) بودیم اما سازوکارهای اصلی قدرت، از بروکراسی دولتی تا ساختار سلسلهمراتبی شرکتهای سنتی، ارتش و سیستمهای آموزشی، ثابت ماندهاند.
در عصر خودآگاهی، شانس بزرگی برای تغییر نحوه تصمیمگیری در نهادها و جوامع وجود دارد. "سم لمان ویلزیگ" نظریهپرداز هوش مصنوعی میگوید: «اگر مطمئن شویم که الگوریتمها و سیستمهای تصمیمگیرنده هوش مصنوعی دارای تعصب کمتری نسبت به سیاستمداران انسانی هستند، موافق حکمرانی آنها در سطح کلان جامعه خواهیم بود.»
درصورتیکه این اتفاق رخ دهد، سیستمهای هوش مصنوعی پیشرفته نقش مهمی در تصمیمگیری در مورد همه چیز (از شرکتهای بیمه تا دادگاه و حتی اتاق جنگ) خواهند داشت و در مقابل مردم نیز بهطور فزایندهای "حق بررسی" (مزایای تصمیمات اتخاذشده) و "حق افشا" (نحوه اتخاذ این تصمیمات) را مطالبه خواهند کرد.
با این حال ماهیت رازآلود سیستمهای خودآگاه، نگرانیهایی را بههمراه خواهد آورد. شرکتهای هوش مصنوعی در حال تلاش برای قابلتوضیح کردن تصمیمات این فناوری هستند، اما اغلب این تلاشها بسیار خوشبینانه و غیرعملیاتی هستند.
دلایل زیادی (مانند گسترش اخبار جعلی) برای بدبین بودن در مورد تاثیر سیستمهای خودآگاه بر دموکراسی وجود دارد، اما ممکن است نکات مثبتی نیز در مورد آنها وجود داشته باشد؛ برای مثال، سیستمهای هوش مصنوعی ممکن است بتوانند اثرات پیچیده سیاستها را مدلسازی کنند و تمایلات همه گروهها را بهنحوی ترکیب کنند که ایجاد اجماع را آسانتر کند. این موضوع ممکن است مزایای قابلتوجهی مانند کاهش دوقطبی شدن و تنش را بهدنبال داشته باشد.
مدیریت در یک جهان خودآگاه
ظهور سیستمهای خودآگاه فرصتهای جدیدی را به وجود خواهد آورد. برای به دست آوردن این فرصتها، مدیران باید مهارتها و رویکردهای جدید را با آغوش باز بپذیرند. این مهارتها عبارتند از مدیریت تاثیرات سیستمهای خودآگاه در محیط کار، توجه به ارزش افزوده نیروی انسانی و همراه کردن کسبوکار با شرایط در حال تغییر. بیایید چند مهارت کلیدی را با هم مرور کنیم:
همنوا شوید اما محتاط باشید. مدیران باید به سیستمهای خودآگاه، بیشتر بهعنوان همکار فکر کنند تا ابزار. با آنها همانطور رفتار کنید که ممکن است با یک همکار فوقالعاده توانا، مشتاق و خستگیناپذیر تعامل کنید و در عین حال حواستان باشد که این سیستمها گاه بهطور غیرقابلباوری اشتباه میکنند. برای مواجهه با چنین همکاران بااستعداد اما غیرقابلاعتمادی، باید همنوایی همراه با تردید را یاد بگیرید.
کار موثر با سیستمهای خودآگاه مستلزم رشد و حفظ سطحی از شک و تردید نسبت به آنهاست. در واقع توانایی شناخت راحت این موضوع که کِی و چرا برخی مواقع این سیستمها دچار اشتباهات فاحش میشوند، از اهمیت زیادی برخوردار است. آگاهی از تاثیر شرکتهای مالک یا کنترلکننده این سیستمها بر خروجی آنها و دانستن اینکه این سیستمها بر اساس چه مفروضاتی آموزش دیدهاند از دیگر نکات مهم است. درک همه چیزهایی که در درون این جعبه سیاه میگذرد امکانپذیر نیست، اما اگر یاد بگیریم که با نگرشی آگاهانه به این سیستمها نزدیک شویم، بهتر میتوانیم با آنها بهطور موثری همنوا شویم.
در جستجوی "بازگشت به انسانیت" باشید! برخلاف چیزی که در ظاهر به نظر میرسد، مدیران عصر خودآگاهی فرصتهای مهمی برای خلق تجارب، خدمات و محصولات انسانی تاثیرگذار پیدا خواهند کرد. احساس مثبت گردش و خرید در یک فروشگاه یا حضور در کنسرت را تجسم کنید. حالا در مقابل به این فکر کنید که به رخ کشیدن چیزهایی که مصرف میکنیم برای نشان دادن خاص بودنمان در عصر شبکههای اجتماعی چقدر رایج است.
همانطور که در زمان کنونی به محصولات غذایی و آرایشی ارگانیک بها داده میشود، شرکتها در آینده میتوانند به دو روش از کارشناسان انسانی حمایت کنند. اول احتمالا بعضی شرکتها محصولاتی را بهعنوان نفیس و ارزشمند به بازار معرفی خواهند کرد که از مشاغل و عاملیت انسانی محافظت میکنند (مثلا با برچسب، تولیدشده توسط انسانها!). دوم احتمالا این موضوع محدود به محصولات نباشد بلکه در مورد ایدهها نیز صدق کند؛ شرکتها ممکن است بهطور فزایندهای به ایدههایی بها دهند که نبوغ و خلاقیت انسانی در آنها مشخص بوده و با ایدههای ماشینی تفاوت داشته باشد.
وسطبازی نکنید! در عصر خودآگاهی، مدیران توسط دو نیروی متضاد آسیب میبینند. از یک سو، باید نشان دهند که در مواجهه با تغییرات فناوری که مشاغل، معیشت و موقعیت اجتماعی انسانها را متحول میکند "طرفدار انسانیت" هستند و بههمان اندازه برای نشان دادن اینکه از نوآوریهای هوش مصنوعی استفاده میکنند، تحتفشار قرار دارند.
تعداد کمی از شرکتها در کنار جنبه انسانی قرار میگیرند و در برابر هوش مصنوعی مقاومت خواهند کرد. دیگر شرکتها هوش مصنوعی را بهطور کامل در آغوش میگیرند و بهطور کامل از کار انسانی اجتناب خواهند کرد. "سامیت شاه" بنیانگذار و مدیرعامل شرکت تجارت الکترونیک "دوکان"، همین چند وقت پیش در توییتر به اخراج ۹۰ درصد از کارمندان بخش پشتیبانی و جایگزینی آنها با یک چتبات افتخار کرده بود. با این حال اغلب شرکتها احتمالا سعی میکنند جانب هر دو طرف ماجرا را بگیرند. از طرفی با صدای بلند نگرانی خود را برای منابع انسانی و سایر ذینفعان اعلام میکنند و در عین حال بیسروصدا، دستاوردهای ناشی از بهکارگیری حداکثری هوش مصنوعی را برای مشتریان و تحلیلگران تبلیغ میکنند.
سالهاست شرکتها توانستهاند در خصوص موضوع توسعه پایدار وسطبازی کنند، اما این کار در مواجهه با هوش مصنوعی دشوارتر است، زیرا آسیبهای ناشی از آن برای مردم خیلی جدیتر و عمیقتر است. چالش بزرگ این عصر جدید یافتن مسیرهایی است که عاملیت انسانی ما را تقویت میکند. از ۲۰ سال پیش، به پلتفرمهای فناوری اجازه دادهایم که در تمامی جنبههای زندگیمان نفوذ کنند. ما این اجازه را بدون اینکه ابتدا نیت واقعی سازندگان آنها را درک کنیم و بدانیم که این فناوریها تا چه حد قدرتمند هستند، دادهایم. برای اینکه چنین اشتباهی را مجددا تکرار نکنیم لازم است با ذهنی باز و هوشیار وارد این عصر جدید شویم. در مرحله نخست باید به سیستمهای خودآگاه بهعنوان یک بازیگر تصمیمگیرنده (با همه فرصتها و خطراتی که در پی دارند) و نه ابزار صرف بنگریم. در مرحله بعد در نظر داشته باشیم انگیزههای چند شرکت بزرگ فناوری که این تغییرات را به پیش میبرند، اساسا با انگیزههای ما که مشتریان آنها باشیم، متفاوت است.
آینده این فناوریها بهاندازهای مهم است که نمیتوان آن را صرفا به متخصصان فناوری و پیشرفت نرمافزاری و سختافزاری واگذار کرد. برای تطبیق با قدرت سیستمهای خودآگاه و صاحبان آنها، ما به همکاری سیاستگذاران، مدیران شرکتها، فعالان و مصرفکنندگان نیاز داریم. با همه افسونگریها و فتنهانگیزیهای این دنیای جدید، آینده ما هنوز هم میتواند در دستان خودمان باشد.