پیش از اعتماد، بررسی کنید

همیشه این‌طور بوده است. امروز شاید بیشتر.

مردم سخن می‌گویند، مطمئن از اینکه می‌دانند چه می‌گویند. با یقین کسانی سخن می‌گویند که پیش‌تر حکم را صادر کرده‌اند، که باور دارند دیدگاهشان اصلاً یک دیدگاه نیست، بلکه تمام منظره است. سپس به کسی برمی‌خورند که حاضر است روشن کند، چیزی را از چیز دیگر جدا کند، نور بیاورد آنجا که لحظه‌ای پیش فقط نظر بود.

و گاهی می‌ایستند و گوش می‌دهند.

نه همه‌شان.

از 1980 به این سو، همه‌چیز به‌راستی شتاب گرفت. شاید از ترس عقب ماندن از کیهان و ساکنانش، از صدای طبل و علامت‌های دودی رسیدیم به گفت‌وگو در خیابان، سر کار، در قطار، همه‌جا، با غریبه‌ها.

غریبه، آری، اما دیگر باخبر.

یا دست‌کم مطمئن از اینکه باخبرند.

و با این همه مادرم از کودکی همیشه به من هشدار می‌داد که با غریبه‌ها حرف نزنم.

امروز چگونه برایش توضیح دهم که جهان درست عکس آن را می‌طلبد؟

از جایی که اکنون هست، البته، نمی‌تواند از فناوری استفاده کند. اما اشتباه نکنید: زن کالابریایی‌ای مانند او در زندان نیست. به خانهٔ پدر بازگشته است تا وظایف دیگری را به جا آورد و نقش‌های دیگری بر عهده بگیرد.

شاید جایی در خانواده‌ام دوباره همچون زنی زاده شود و مرا بپاید، همان‌گونه که وقتی پسربچه بودم می‌پایید، و بکوشد فقط با یک نگاه رامم کند.

اما من رام‌نشدنی بودم، و هستم.

از هیچ‌کس اجازه نمی‌گیرم.

فناوری امروزی هم این را می‌داند. وقتی با هوش مصنوعی و الگوریتم‌ها روبه‌رو شدم و درافتادم، منفجرشان کردم. نه چون به ماشین‌ها اعلان جنگ دادم، بلکه چون نه ماشین‌ها و نه صاحبانشان توان رام کردن مرا نداشتند.

اما در این نقطه، پرسشی ضروری می‌شود: این دو شخصیت، الگوریتم و هوش مصنوعی، به‌راستی کیستند؟

پیوسته نامشان را می‌بریم، گویی خویشاوندان نزدیک‌اند. وقتی چیزی زندگی را آسان‌تر می‌کند صدایشان می‌کنیم و وقتی چیزی از دست درمی‌رود سرزنششان می‌کنیم. اما اغلب آن‌ها را با هم اشتباه می‌گیریم، گویی یک چیزند که دو کت‌وشلوار متفاوت پوشیده است.

نیستند.

الگوریتم یک روال است. رشته‌ای از دستورها. کسی به آن می‌گوید: اگر این رخ داد، آن کار را بکن. اگر جاده بسته است، مسیر را عوض کن. اگر عدد زوج است، نصفش کن. اگر ماده‌ای کم است، بایست یا طبق قاعده‌ای که به تو داده‌اند جایگزینش کن.

الگوریتم بحث نمی‌کند. تفسیر نمی‌کند. دلخور نمی‌شود.

بیش از همه، از خودش نمی‌سازد.

اجرا می‌کند.

دستور زبان است.

هوش مصنوعی، از سوی دیگر، تلاشی است برای ساختن سیستم‌هایی که بتوانند از پس کارهایی برآیند که تا دیروز فقط به انسان‌ها می‌سپردیم: بازشناختن یک چهره، تفسیر یک متن، ترجمهٔ یک جمله، یافتن پیوندها در داده‌ها، تولید یک پاسخ، پیش‌بینی یک رفتار.

ذهن انسانی نیست که به رایانه منتقل شده باشد، و آگاهی هم نیست.

مجموعه‌ای از تکنیک‌هاست که برای نزدیک شدن به کارهای شناختی طراحی شده‌اند.

اگر در جهان نوشتن بمانیم، الگوریتم دستور زبان است: منظم، ضروری، انعطاف‌ناپذیر. هوش مصنوعی نویسنده‌ای است که کتابخانه‌ای بی‌کران را خوانده و اکنون می‌کوشد صفحه‌ای تازه بنویسد.

می‌تواند شگفت‌زده‌تان کند. می‌تواند درخشان به نظر برسد. حتی می‌تواند جمله‌ای بیابد که تکانتان دهد.

اما می‌تواند با اطمینان مطلق هم اشتباه کند. می‌تواند جزئیاتی را درهم کند، منبعی از خودش بسازد، واژه‌هایی متقاعدکننده را کنار هم بچیند بی‌آنکه حقیقت را در اختیار داشته باشد.

و این همان تفاوتی است که اهمیت دارد.

الگوریتم سنتی به کسی نیاز دارد که راه را نشانش دهد. اگر وضعیت عوض شود و کسی به او نیاموخته باشد چه کند، زندانی دستورهایش می‌ماند.

هوش مصنوعی، دست‌کم آن بخشی که بر یادگیری ماشین بنا شده، نمونه‌هایی دریافت می‌کند و در داده‌ها به دنبال قاعده‌مندی‌ها می‌گردد.

همهٔ پاسخ‌ها را به دستش نمی‌دهید.

موردها، اطلاعات، تلاش‌ها را نشانش می‌دهید. سیستم خودش به دنبال الگوها می‌گردد و پاسخی باورپذیر می‌سازد. یادگیری ماشین بر گرد سیستم‌هایی بنا شده که از روی داده‌ها خود را وفق می‌دهند تا عملکردشان را با گذر زمان بهتر کنند.

این بدان معنا نیست که هوش مصنوعی همه‌چیز را می‌داند.

فقط بدان معناست که می‌تواند الگوها را با سرعتی، و با حافظه‌ای، بازشناسد که هیچ انسانی ندارد. اما بازشناختن یک الگو با فهمیدن جهان فرق دارد.

سیستمی می‌تواند استعاره‌ای را به سی‌وسه زبان ترجمه کند و هم‌زمان در برابر پرسشی ساده که بد پرسیده شده، زمینه‌ای ناقص یا دروغی که با ظرافت نوشته شده، شکست بخورد.

الگوریتم خشک است.

هوش مصنوعی انعطاف‌پذیرتر است، اما این آزادش نمی‌کند.

الگوریتم می‌تواند کوتاه‌ترین مسیر تا یک مقصد را حساب کند. هوش مصنوعی می‌تواند عکسی را بررسی کند و به ما بگوید ظاهراً چه در آن هست، به پرسشی گوش دهد و پاسخی بسازد، هزاران صفحه را تحلیل کند و خلاصه‌ای تولید کند.

اما پشت هر دو همیشه دستی انسانی هست: کسی که قاعده‌ها را نوشت، داده‌ها را برگزید، هدف را تعیین کرد، تصمیم گرفت چه باید پاداش بگیرد و چه باید کنار گذاشته شود.

پس هوش مصنوعی و الگوریتم‌ها متضاد نیستند.

هوش مصنوعی از راه الگوریتم‌ها زندگی می‌کند، اما هر الگوریتمی هوش مصنوعی نیست. هوش مصنوعی امروزی اغلب از الگوریتم‌های یادگیری ماشین استفاده می‌کند: ابزارهایی که پارامترهای درونی‌شان را با داده‌های در دسترس تنظیم می‌کنند تا پیش‌بینی، طبقه‌بندی یا پاسخ تولید کنند.

ریاضیات با سرعت بالاست، نه جادو.

ساختاری آماری است، نه وحی.

و بدین‌سان به مردمی بازمی‌گردیم که سخن می‌گویند، مطمئن از اینکه می‌دانند.

هر کس که سخن می‌گوید نمی‌داند چه می‌گوید.

این دربارهٔ مرد پشت پیشخوان کافه صدق می‌کند، دربارهٔ استاد حواس‌پرت، سیاستمدار تلویزیون، کسی که در شبکه‌های اجتماعی می‌نویسد، و حتی دربارهٔ ماشینی که می‌تواند در چند ثانیه پاسخ دهد.

درون هر سیستمی، با واژه‌های گوناگون اما با همان معنا، هشداری کوچک آویخته است:

احتیاط: ممکن است اشتباه کنم. همیشه آنچه می‌گویم را راستی‌آزمایی کنید. پیش از اعتماد، بررسی کنید.

جمله‌ای است که مادرم تأییدش می‌کرد.

آن را به شکل‌های دیگر برایم تکرار می‌کرد، حتی پیش از آنکه دوست‌دختری داشته باشم. طبیعی است که نمی‌دانست من پیش‌تر آزمون‌های گسترده‌ای از عملکرد و اعتمادپذیری انجام داده بودم، با دیگران هم، با هزینهٔ صفر.

اما آن، مانند هر پژوهش خوبی، در میدان انجام شد.