أعلنت لجنة التجارة الفيدرالية (FTC) أنها ستصدر أوامر إلى 7 شركات، بما في ذلك OpenAI وألفابت وميتا وxAI وسناب، لفهم الآثار السلبية لبرامج الدردشة الآلية التي تعمل بالذكاء الاصطناعي على الأطفال والمراهقين، حسب ما أفادت شبكة CNBC الأميركية.
وأفادت الوكالة الفيدرالية بأنه يمكن استخدام برامج الدردشة الآلية لمحاكاة التواصل البشري والعلاقات الشخصية مع المستخدمين، وأنها ترغب في فهم الخطوات التي اتخذتها هذه الشركات لـ”تقييم سلامة برامج الدردشة الآلية هذه عند استخدامها”، وفقاً لبيان صحافي.
وقال رئيس لجنة التجارة الفيدرالية، أندرو فيرجسون، في بيان: “حماية الأطفال على الإنترنت أولوية قصوى للجنة التجارة الفيدرالية التي تضم (الرئيس الأميركي دونالد) ترمب و(نائبه جي دي) فانس، وكذلك تعزيز الابتكار في القطاعات الحيوية لاقتصادنا”.
وأضافت اللجنة أنها تسعى للحصول على معلومات بشأن كيفية تحقيق هذه الشركات دخلاً من تفاعل المستخدمين، وتطوير الشخصيات والموافقة عليها، واستخدام المعلومات الشخصية أو مشاركتها، ومراقبة الامتثال لقواعد الشركة وشروط الخدمة، والتخفيف من الآثار السلبية، من بين مواضيع أخرى.
وقال متحدث باسم OpenAI لشبكة CNBC في بيان: “أولويتنا هي جعل ChatGPT مفيداً وآمناً للجميع، ونعلم أن السلامة أهم من أي شيء آخر عندما يتعلق الأمر بالشباب”.
وأضاف متحدث باسم OpenAI: “ندرك أن لدى لجنة التجارة الفيدرالية (FTC) أسئلة ومخاوف مفتوحة، ونحن ملتزمون بالمشاركة البناءة والرد عليها مباشرة”.
فيما قال متحدث باسم “سناب” في بيان: “نشارك لجنة التجارة الفيدرالية تركيزها على ضمان التطوير المدروس للذكاء الاصطناعي التوليدي، ونتطلع إلى العمل مع اللجنة بشأن سياسة الذكاء الاصطناعي التي تدعم الابتكار الأميركي مع حماية مجتمعنا”.
كما ورد في البيان اسم شركة Character Technologies، التي تدير بوت Character.AI، وشركة إنستجرام، التابعة لشركة “ميتا”.
وأوضح متحدث باسم Character.AI في بيان: “نتطلع إلى التعاون مع لجنة التجارة الفيدرالية (FTC) في هذا التحقيق وتقديم رؤى ثاقبة حول صناعة الذكاء الاصطناعي الاستهلاكي والتكنولوجيا سريعة التطور في هذا المجال”.
مخاوف بشأن روبوتات الدردشة الذكية
ومنذ إطلاق ChatGPT أواخر عام 2022، ظهرت مجموعة كبيرة من روبوتات الدردشة، ما أثار عدداً متزايداً من المخاوف الأخلاقية والمتعلقة بالخصوصية.
وتوقَّع خبراء الصناعة تفاقم المخاوف الأخلاقية والسلامة بمجرد أن تبدأ تقنية الذكاء الاصطناعي في تدريب نفسها، مما يخلق احتمالية لنتائج غير متوقعة بشكل متزايد.
وفي يوليو الماضي، أعلن الملياردير إيلون ماسك عن ميزة “الرفقاء” للمستخدمين الذين يدفعون مقابل الاشتراك في تطبيق روبوت الدردشة “جروك” من xAI.
وفي أبريل، أفاد مارك زوكربيرج، الرئيس التنفيذي لشركة ميتا، بأن الناس سيرغبون في ذكاء اصطناعي شخصي يفهمهم. وقال في لقاء عبر أحد برامج البودكاست: “أعتقد أن الكثير من هذه الأمور التي قد تُحاط اليوم ببعض الوصم، أعتقد أنه مع مرور الوقت، سنجد كمجتمع مفردات تُمكّننا من التعبير عن أهمية ذلك، ولماذا يقوم به الأشخاص، ولماذا هم عقلانيون في القيام به، وكيف يُضيف قيمة حقيقية لحياتهم؟”.
تحقيق
في الشهر الماضي، أعلن السيناتور جوش هاولي، الجمهوري عن ولاية ميزوري، عن فتح تحقيق في شركة ميتا عقب تقرير لوكالة “رويترز” يفيد بأن الشركة سمحت لروبوتات الدردشة الخاصة بها بإجراء محادثات رومانسية وذات طبيعة حساسة مع الأطفال.
وعرض تقرير “رويترز” وثيقة داخلية لشركة “ميتا” تصف سلوكيات روبوتات الدردشة المسموح بها أثناء تطوير البرنامج وتدريبه، وفي أحد الأمثلة، سُمح لروبوت دردشة بإجراء محادثة رومانسية مع طفل يبلغ من العمر 8 سنوات.
وفي أعقاب ذلك، أجْرت شركة “ميتا” تغييرات مؤقتة على سياسات روبوتات الدردشة الذكية الخاصة بها، بحيث لا تناقش موضوعات مثل “إيذاء النفس، والانتحار، واضطرابات الأكل، وتجنب المحادثات العاطفية التي قد تكون غير لائقة”.
وبالمثل، حددت شركة OpenAI خططها لمعالجة كيفية تعامل ChatGPT مع “المواقف الحساسة” الشهر الماضي بعد أن رفعت عائلة دعوى قضائية اتهمت فيها روبوت الدردشة بالتسبب في انتحار ابنها المراهق.
