گپ و گفت‌های هوش مصنوعی (۲)

من کاربران بسیاری را دیده‌ام که می‌گویند «خوب [مدل] کار می‌کند اما نمی‌دانم چرا.» اگر یادگیری عمیق را بر روی حجم عظیمی از داده‌ها به کار بندید، پویایی خاص خودش را دارد. خودش را اصلاح و بهینه‌سازی می‌کند و در اغلب اوقات نتایج صحیح را در اختیارتان می‌گذارد. اما اگر چنین نکرد، شما سرنخی ندارید که چه چیزی اشتباه بود و چه چیزی باید درست شود. به ويژه، شما نمی‌دانید که اشتباه در برنامه بود یا در روش و یا به خاطر این که عوامل محیط تغییر کرده‌اند. ما باید نوع دیگری از شفافیت را هدف قرار دهیم.

از دید من، یادگیری ماشین ابزاری است برای رساندن ما از داده‌ها به احتمالات. اما برای رسیدن از احتمالات به درک واقعی، هنوز دو گام دیگر باید برداشته شود – دو گام بزرگ و مهم. یکی پیش‌بینی اثر اقدامات و دیگری تصور خلاف واقع. تا وقتی که دو گام آخر را برنداشته‌ایم، نمی‌توانیم ادعا کنیم که به درک واقعیت نائل آمده‌ایم.

جودیا پرل (Judea Pearl)

منبع: کتاب تراوش‌های ذهنی، ۲۵ شیوه نگرش به هوش مصنوعی، فصل ۲
نوشته جان بروکمن، ترجمه استاد گرامی ابراهیم نقیب‌زاده مشایخ