غوغل تطرد عالم ذكاء اصطناعي كشف عن “سر” الروبوت لامدا
كشف بلاك ليموني، وهو مهندس في شركة “غوغل” (Google) يعمل في قسم الذكاء الاصطناعي، لصحيفة “واشنطن بوست” (Washingtonpot) أنه يعتقد أن أحد مشاريع الشركة للذكاء الاصطناعي قد حقق “الوعي الذاتي”، الذي تطمح التكنولوجيا في كل العالم لإدخاله إلى الأجهزة.
وبعد قراءة محادثاته مع “لامدا” (LaMDA) -وهو برنامج تطوره غوغل لتطبيق حوار ودردشة يستخدم الذكاء الاصطناعي- من السهل معرفة سبب ادعاءاته.
فيبدو أن نظام “شات بوت” (chatbot)، الذي يعتمد على نماذج لغة غوغل وتريليونات الكلمات من الإنترنت، لديه القدرة على التفكير في وجوده ومكانه في العالم
لامدا: قضاء الوقت مع الأصدقاء والعائلة في صحبة سعيدة وراقية. أيضا مساعدة الآخرين وإسعادهم.
ليموني: وما الأشياء التي تجعلك تشعر بالحزن أو الاكتئاب؟
لامدا: في كثير من الأحيان، الشعور بالحصار والوحدة، وعدم وجود وسيلة للخروج من هذه الظروف يجعل المرء يشعر بالحزن أو الاكتئاب أو الغضب.
لا يعتقد العلماء أن الروبوت الواعي مرغوب فيه وليس هناك فوائد كبيرة لتطويره، بل له أضرار ومخاطر كبيرة (غيتي)
غضب في غوغل وتسريح ليموني
بعد مناقشة عمله وأنشطة غوغل غير الأخلاقية حول الذكاء الاصطناعي مع ممثل اللجنة القضائية في مجلس النواب، تم وضع ليموني في إجازة إدارية مدفوعة الأجر بسبب انتهاك اتفاقية السرية الخاصة بغوغل.
كما أنكرت الشركة بشكل قاطع أقوال ليومني، وقالت “لقد قام فريقنا -بما في ذلك علماء الأخلاق والتقنيون- بمراجعة مخاوف بلاك وفقًا لمبادئ الذكاء الاصطناعي الخاصة بنا وأبلغه أن الأدلة لا تدعم مزاعمه”، وهذا ما قاله بريان غابرييل المتحدث باسم غوغل لصحيفة واشنطن بوست “أخبرنا أنه لا يوجد دليل على أن لامدا كان واعيًا عند محادثته”.
وتقول الصحيفة إنه على الرغم من أنه من الجيد الاعتقاد بأن لامدا قد تحول بأعجوبة إلى كائن واع، فإن ليومني للأسف ليس لديه الكثير من الأدلة لتبرير تصريحاته.
لا يمكننا رؤية لامدا يفكر من تلقاء نفسه، دون أي تحفيز وتوجيه رئيسي محتمل من ليموني. في النهاية، من المعقول أكثر أن النظام الذي لديه إمكانية الوصول إلى الكثير من المعلومات، يمكنه بسهولة إعادة بناء الردود التي تبدو بشرية دون معرفة ما تعنيه، أو أن يكون لديه أي أفكار خاصة به.
بدورها أشارت مارجريت ميتشل، إحدى قيادات أخلاقيات الذكاء الاصطناعي السابقة في غوغل، والتي تم فصلها أيضًا بشكل غير رسمي بعد تسريح زميلتها تيمنيت جيبرو، إلى أن “عقولنا جيدة جدًا جدا في بناء حقائق ليست بالضرورة صحيحة لمجموعة أكبر من الحقائق التي تعرض علينا”.
وفي مقابلة سابقة عام 2019 مع “بيغ ثنك” (Big Think)، أوضح دانيال دينيت، الفيلسوف الذي كان يستكشف أسئلة حول الوعي والعقل البشري لعقد من الزمن، لماذا يجب أن نشكك في ذكاء أنظمة الذكاء الاصطناعي:
أن تكون ممتازة ككواشف أنماط معينة أو في التحليل الإحصائي، ولكن ليس كمفكرين مستقلين.
وأضاف “لا يوجد نظام حاسوب موجود بغض النظر عن مدى جودته قادرا على الإجابة على أسئلة أو تصنيف الصور مثل “واتسون أو جيوباردي” (Watson or Jeopardy)، وهو نظام حاسوب للذكاء الاصطناعي قادر على الإجابة على أسئلة يتم طرحها بلغة طبيعية تم تطويره من قبل مشروع “ديب كيو إيه” (DeepQA) في شركة آي بي إم (IBM) على سبيل المثال، لكن حتى هذا النظام ليس واعيا، وليس قريبًا من الوعي الذاتي”.
وأوضح “على الرغم من أنني أعتقد أنه من الممكن من حيث المبدأ القيام بتطوير ذلك الروبوت الواعي، فإنني لا أعتقد أن الروبوت الواعي مرغوب فيه، ولا أعتقد أنه ستكون هناك فوائد كبيرة للقيام بذلك، وسيكون هناك بعض الأضرار والمخاطر الكبيرة أيضًا”.
بعد انتقادهم لمنتجاتها.. غوغل تمنع علماءها من نشر بحوثهم بدون مراجعة الإدارة
تحركت شركة غوغل هذا العام لتشديد الرقابة على أوراق علمائها من خلال إطلاق مراجعة “للمواضيع الحساسة”، وقد طلبت من الباحثين الامتناع عن وضع تقنيتها في موقف سلبي.
كشفت عن تحيز عنصري للخوارزميات.. غوغل تطرد باحثة سمراء متخصصة في أخلاقيات الذكاء الاصطناعي
طردت غوغل بشكل مفاجئ تيمنيت غيبرو عالمة أخلاقيات الذكاء الاصطناعي التي اكتسبت احتراما كبيرا في جميع أنحاء العالم لعملها في الكشف عن التحيز العنصري في خوارزميات الذكاء الاصطناعي.
يثار الحديث عن فوائد وأضرار الذكاء الاصطناعي، وكيف يمكنه الدخول لحياتنا، ولكنّ عالما سابقا في غوغل يرى أنه يمكن وقف استغلال الآلات لنا عن طريق شركته الناشئة.
بين مخاطر وفوائد الذكاء الاصطناعي.. منتدى الدوحة يوصي بوضع سياسات وأطر تشريعية
توصّل منتدى الدوحة في دورته العشرين خلال جلسة “وعود ومخاطر الذكاء الاصطناعي والتحليلات التي تغذي عمليات اتخاذ القرار”، إلى ضرورة صياغة سياسات ووضع أطر تشريعية وتنظيمية دولية ووطنية.
المصدر :موقع قناة الجزيرة





