چالشهای دستیاران هوش مصنوعی دولت از دادههای قدیمی تا عدم درک نیاز کاربران, رونمایی از دستیاران هوش مصنوعی دستگاههای اجرایی آغاز یک مسیر پر از چالش دیروز معاونت علمی، فناوری و اقتصاد دانشبنیان ریاستجمهوری از دستیاران هوش مصنوعی اختصاصی برای دستگاههای اجرایی رونمایی کرد. این گام، نقطهی آغازین یک مسیر طولانی جهت دستیابی به کارایی واقعی در چتباتهای دولتی محسوب میشود.
بر اساس گزارشها، این معاونت وظیفه نظارت بر پیشرفت پروژههای هوش مصنوعی دستگاهها را بر عهده دارد. سامانههای طراحیشده باید با شناسایی دقیق نیازهای هر سازمان، بخشهایی از اطلاعات عمومی و اختصاصی را پردازش کنند. با این حال، در مراسم رونمایی ضعفهای بارزی آشکار شد. مهمترین مشکلات شامل کمبود دادههای بهروز و استناد به اطلاعات قدیمی بود.
برخی دستیاران حتی برای پاسخ به سوالات از اسناد و قوانین مربوط به سال ۱۳۹۵ استفاده میکردند که نشاندهنده عدم بهروزرسانی پایگاه داده است. تحلیل نقاط ضعف در عملکرد چتباتهای دولتی حسین افشین، معاون علمی، فناوری و اقتصاد، در این جلسه با ارائه پرامپتهای متنوع سعی کرد عملکرد این دستیاران را بسنجد.
خ به پرسش آبوهوای تهران چطور است؟ اعلام کرد که تنها به سوالات مرتبط با وزارتخانه پاسخ میدهد.
افشین این رویکرد را نقد کرد و تأکید کرد هوش مصنوعی باید بتواند به نیاز کاربر پاسخ دهد. صرفاً بازگو کردن قوانین، هوشمندسازی نیست و باید توانایی پاسخگویی عمومی نیز داشته باشد. این دیدگاه نشان میدهد که هدف نهایی، ایجاد دستیارانی است که فراتر از یک مخزن قانون، درک و تعامل طبیعی با شهروند داشته باشند. چالش تأمین داده و وابستگی به همکاری بینسازمانی یک نکته بنیادین در این پروژهها نحوه تغذیه دادههاست.
دستیاران هوش مصنوعی نباید اطلاعات خود را از خبرگزاریها یا منابع باز دریافت کنند، بلکه دادهها باید توسط ادمینهای هر دستگاه بارگذاری شوند. این موضوع وابستگی شدید موفقیت پروژه به همکاری فعال دستگاههای اجرایی در به اشتراکگذاری اطلاعات را ایجاد میکند؛ همکاریای که میزان و کیفیت آن هنوز مشخص نیست. در پاسخ به سوالی درباره لزوم ساخت مدل زبانی اختصاصی، افشین توضیح داد هدف ما صرفاً ساخت یک پوسته نیست.
معرفی نمونههای رونماییشده و واقعیت عملکردی آنها در این مراسم چند دستیار هوش مصنوعی معرفی شدند یارینو توسعهیافته توسط شرکت نکسینو، همزیست محصول دانشگاه تربیت مدرس با تمرکز بر محیطزیست، ویر دستیار هوشمند استاندار ساختهشده توسط دانشگاه ایلام، و دستیار رسانهای هوش مصنوعی ارائهشده توسط شرکت دیتاک.
با وجود این تنوع، معاونت علمی مراسم را با عنوان ارائه نسخه اولیه برگزار کرد که ضمناً نشاندهنده آماده نبودن کامل پروژههاست. نکته قابل توجه این است که بسیاری از این سامانهها با وجود دسترسی به اطلاعات اختصاصی و همکاری با دستگاهها، از مقصد نهایی دور هستند. در تستهای انجامشده، حتی ChatGPT با بهرهگیری تنها از اطلاعات عمومی، پاسخهای بهتری نسبت به این چتباتهای تخصصی ارائه داد.
این موضوع سوالی جدی در مورد معماری و روش توسعه این سیستمها مطرح میکند. مدل زبانی یا صرفاً پوسته؟ تست واقعی در محیط عملیاتی نشست امروز بیشتر شبیه یک آزمایش عملیاتی برای سنجش عملکرد بود تا یک رونمایی رسمی. شاید بهتر بود این ارزیابی در فضایی خصوصی و تنها با حضور توسعهدهندگان انجام میشد، زیرا بسیاری از سامانهها صلاحیت لازم برای استفاده در دستگاههای اجرایی را نداشتند.
کرد که در استفاده از دستیار رسانهای هوش مصنوعی با مشکل مواجه شده و سامانه نتوانسته عملکرد درستی داشته باشد.
برخی نمایندگان دیگر دستگاهها در جلسه حضور نداشتند، اما به نظر میرسد بازخورد آنها نیز تفاوت چندانی با تجربه وزارت خارجه نداشت. معاونت علمی در پایان تأکید کرد که در ماه آینده جلسهای دیگر برای بررسی مجدد پیشرفت این دستیاران برگزار خواهد شد.
