هوش مصنوعی دکمه جادویی نیست؛ باید بدانیم دقیقا چه کاری از آن بر می آید

فرض کنید مدیر یک شرکت از تیم فناوری می پرسد: «ما هم می توانیم از هوش مصنوعی استفاده کنیم؟» پرسش بدی نیست، اما به تنهایی هیچ کمکی به تصمیم گیری نمی کند. پاسخ آن تقریبا همیشه مثبت است. پرسش مهم تر این است که کدام کار شرکت را می توان با کمک هوش مصنوعی بهتر انجام داد و چقدر برای آن ارزش قائل هستیم.

در سال های اخیر، گفت و گو درباره هوش مصنوعی از جمع پژوهشگران بیرون آمده و وارد جلسه هیئت مدیره، کارخانه، بانک و کلاس درس شده است. این تغییر اتفاق کوچکی نیست. پیش از این برای بسیاری از کارها باید مجموعه ای از قواعد دقیق می نوشتیم. حالا در برخی کارها می توانیم به سیستم نمونه نشان بدهیم، از داده الگو یاد بگیرد یا از آن بخواهیم متن و تصویر و کد تولید کند. اما این توانایی ها را نباید با فهم انسانی یکی گرفت.

سه توانایی که باید از هم جدا کنیم

اول، پیش بینی است. مثلا برآورد کنیم کدام دستگاه در معرض خرابی است یا کدام مشتری احتمالا خرید بعدی را انجام می دهد. اینجا معمولا داده تاریخی، تعریف دقیق خروجی و روش سنجش خطا داریم. اگر پیش بینی ضعیف باشد، می توانیم آن را با نتیجه واقعی مقایسه کنیم.

دوم، تولید محتوا است. یک مدل زبانی می تواند از میان صدها سند پاسخ بسازد، نامه بنویسد، کد پیشنهاد دهد یا متن پیچیده ای را ساده توضیح دهد. خوبی این توانایی سرعت و انعطاف آن است. ضعفش هم روشن است: پاسخ روان لزوما پاسخ درست نیست. جمله ای که با اعتماد به نفس نوشته شده ممکن است از اساس نادرست باشد.

سوم، اقدام در یک فرایند است. سیستم می تواند اطلاعات را بخواند، چند ابزار را صدا بزند، پیشنهادی ارائه کند و در محدوده ای مشخص کاری را پیش ببرد. این همان جایی است که بحث عامل های هوشمند جدی می شود. اما هرچه اختیار سیستم بیشتر باشد، نیاز ما به کنترل، ثبت رخدادها و امکان توقف هم بیشتر می شود.

این سه کار هزینه، ریسک و روش ارزیابی یکسانی ندارند. شرکتی که این تفاوت را نبیند، ممکن است برای یک گزارش ساده به سراغ معماری پیچیده برود یا تصمیم حساس مالی را به مدلی بسپارد که فقط برای نوشتن متن مناسب است.

از مسئله شروع کنیم، نه از نام فناوری

برای مثال، یک شرکت پخش را در نظر بگیرید که هر روز با تاخیر در تحویل سفارش ها روبه روست. آیا مشکل پیش بینی تقاضاست؟ آیا مسیر حمل درست انتخاب نمی شود؟ آیا کارکنان وقت زیادی صرف پاسخ دادن به وضعیت سفارش می کنند؟ هر سه مسئله زیر چتر هوش مصنوعی قرار می گیرند، ولی راه حل آنها متفاوت است.

برای شروع، به این سه پرسش پاسخ دهید: اکنون چه تصمیمی گرفته می شود؟ چه کسی آن را می گیرد؟ از کجا می فهمیم تصمیم بهتر شده است؟ اگر پاسخ روشنی نداریم، هنوز برای انتخاب ابزار آماده نیستیم.

در یک مسئله ممکن است مدل یادگیری ماشین مناسب باشد. در مسئله دیگر یک جست و جوی دقیق روی اسناد کافی است. گاهی هم با اصلاح فرم ورود اطلاعات، مسئله بدون هیچ هوش مصنوعی حل می شود. انتخاب راه حل ساده تر نشانه عقب ماندن نیست؛ نشانه آن است که مسئله را فهمیده ایم.

یک شروع کوچک، اما جدی

در جلسه بعدی تیم، کاری تکراری با خروجی قابل بررسی و پیامد خطای کنترل پذیر انتخاب کنید. پیش از هر آزمایش، روشن کنید امروز آن کار چگونه انجام می شود و چه تغییری ارزش ادامه دادن دارد.

اگر نتیجه بهتر نشد، چیزی از دست نداده اید؛ مسئله را بهتر شناخته اید. اگر بهتر شد، تازه مرحله بعدی شروع می شود: فهمیدن اینکه راه حل در جریان واقعی کار، با داده های تازه و کاربران مختلف هم قابل اعتماد هست یا نه.

چرا باید درباره «هوش» با احتیاط حرف بزنیم؟

در زبان روزمره وقتی می گوییم کسی باهوش است، معمولا مجموعه ای از توانایی ها را در نظر داریم: موقعیت را می فهمد، از تجربه درس می گیرد، به پیامد کارش فکر می کند و اگر اشتباه کند، می تواند توضیح دهد چرا چنین تصمیمی گرفته است. اما در یک سامانه هوش مصنوعی ممکن است فقط بخشی از این رفتارها را ببینیم. مدلی که متن روان تولید می کند لزوما از درستی حرف خود خبر ندارد. سامانه ای که تصویر را با دقت طبقه بندی می کند، لزوما نمی تواند در شرایطی متفاوت از داده های آموزشی همان کیفیت را حفظ کند. مسئله فقط نام گذاری نیست؛ برداشت اشتباه از توانایی ابزار، سطح نظارت و میزان اختیاری را که به آن می دهیم تغییر می دهد.

برای همین پیشنهاد می کنم در جلسه های مدیریتی به جای عبارت مبهم «هوش مصنوعی می تواند این کار را انجام دهد»، جمله دقیق تری بنویسیم: «این سامانه در چه شرایطی، با چه نوع ورودی و با چه نرخ خطایی، کدام بخش از کار را انجام می دهد؟» همین تغییر کوچک، بحث را از شگفتی به مسئولیت می برد. مدیرعامل لازم نیست متخصص یادگیری ماشین باشد؛ باید فرض های پشت نمایش را بشناسد و در عمل بیازماید.

سه داستان متفاوت پشت یک نام مشترک

در همان شرکت پخش، تفاوت این کاربردها باید در تصمیم های اجرایی دیده شود: پیش بینی تقاضا به داده و معیار خطای مشخص نیاز دارد، خلاصه قرارداد به کنترل نسخه و بررسی حقوقی، و ربات انبار به آزمون ایمنی محیط. نام مشترک «هوش مصنوعی» نباید باعث شود برای هر سه، تیم، بودجه یا سطح نظارت یکسان در نظر بگیریم.

این تفاوت برای انتخاب تیم هم مهم است. در پروژه پیش بینی، آشنایی با سری های زمانی و رفتار بازار ارزش بالایی دارد. در پروژه اسناد، مدیریت نسخه، دسترسی و استناد به منبع تعیین کننده است. در رباتیک، ایمنی محیط و مهندسی کنترل وارد ماجرا می شود. شرکتی که فقط بر اساس شهرت یک مدل یا نام یک پلتفرم تصمیم می گیرد، ممکن است از همان ابتدا نیروی نامناسب و شاخص نامناسب انتخاب کند. فناوری را باید به کار مورد نظر نزدیک کرد، نه کار را به آنچه فروشنده در بروشور نوشته است.

تاریخ فناوری یک درس مدیریتی دارد

هوش مصنوعی یک شبه پدید نیامده است. پیش از مدل های زبانی امروزی، سال ها روی سیستم های مبتنی بر قواعد، روش های آماری، یادگیری ماشین و شبکه های عصبی کار شده بود. هر دوره با وعده هایی همراه بود و محدودیت هایی هم داشت. نکته آموزنده تاریخ این حوزه فقط پیشرفت سرعت پردازنده یا بزرگ شدن داده نیست؛ این است که روش غالب حل مسئله بارها عوض شده است. اگر همه سرمایه گذاری سازمان را به یک روش خاص گره بزنیم، ممکن است با تغییر نسل فناوری مجبور شویم بخش بزرگی از کار را از نو انجام دهیم.

یک شرکت آینده نگر بر خلاف تصور رایج، از همان روز اول روی بزرگ ترین فناوری شرط بندی نمی کند. روی چیزهایی سرمایه گذاری می کند که با عوض شدن فناوری هم ارزش دارند: فرایند تعریف شده، داده قابل اعتماد، معیار روشن، تیم توانمند و امکان تعویض اجزای سیستم. اگر امروز مدل مورد استفاده تغییر کند اما مسئله، داده و معیار موفقیت شما همان باشد، مسیر مهاجرت بسیار ساده تر است. این همان تفاوت میان خرید فناوری و ساختن توانایی سازمانی است.

آزمایشی که به تصمیم کمک کند

فرض کنید می خواهیم زمان پاسخ به درخواست مشتری را کوتاه کنیم. سه راه را با هم بسنجیم: اصلاح پایگاه دانش، جست و جوی بهتر و دستیار مبتنی بر مدل زبانی. شاید بهترین جواب ترکیبی از آنها باشد. انتخاب باید بر اساس خط مبنای همان کار و نتیجه ای باشد که در بخش های قبلی تعریف کردیم، نه جذابیت یک نمایش.

در آزمایش، فقط بهترین نمونه ها را انتخاب نکنیم. پرسش ناقص، مشتری ناراضی، سند قدیمی و موردی را که پاسخ درست در داده ها وجود ندارد نیز امتحان کنیم. علاوه بر کیفیت پاسخ، باید میزان نیاز به بازبینی انسانی را بسنجیم. خروجی خوب در ده نمونه نمایشی، دلیل کافی برای خرید سازمانی نیست. خروجی قابل قبول روی نمونه های واقعی، همراه با سازوکار رسیدگی به خطا، ارزش تصمیم گیری دارد. بهتر است در پایان آزمایش به جای جمله «مدل فوق العاده است»، گزارشی داشته باشیم که بگوید چه بخشی از کار بهتر شد، کجا شکست خورد و مرحله بعد به چه شرطی آغاز می شود.

آخرین سوال قبل از شروع

پیش از شروع، این جمله را کامل کنید: «اگر پروژه موفق شود، شش ماه دیگر چه تغییری در تجربه مشتری، کیفیت کار یا هزینه عملیاتی می بینیم؟» پاسخ مشخصی مثل «زمان یافتن پاسخ معتبر از ده دقیقه به دو دقیقه می رسد، بدون افزایش پاسخ های نادرست» مبنای تصمیم است؛ «ما هم هوش مصنوعی خواهیم داشت» نیست. تصمیم درست همیشه استفاده از پیچیده ترین مدل نیست؛ گاهی انتخاب نکردن آن است.

هوش مصنوعی وقتی ارزشمند است که یک کار واقعی را بهتر کند. شگفت زده شدن از توانایی مدل خوب است، اما برای اداره یک کسب و کار کافی نیست.