لقد أخطأ الذكاء الاصطناعي: قائمة محدثة بأخطاء وأخطاء وإخفاقات الذكاء الاصطناعي 2023

منذ إطلاق ChatGPT في نوفمبر 2022، لم يكن للذكاء الاصطناعي سوى تأثير زلزالي على عالمنا. الآن، تجد الشركات طرقًا جديدة لاستخدام الذكاء الاصطناعي كل يوم.

لقد كان هناك بالفعل عدد لا يحصى من قصص نجاح الذكاء الاصطناعي، ويستخدم عشرات الآلاف من الأشخاص الآن روبوتات الدردشة الأخرى مثل Bard و Claude ، ولكن كان هناك أيضًا الكثير من الحالات التي حدث فيها خطأ فادح في تسخير الذكاء الاصطناعي.

يعد إدراك القيود والمخاطر المحيطة بأدوات الذكاء الاصطناعي أمرًا مهمًا - لذلك قمنا بتجميع قائمة بجميع أخطاء الذكاء الاصطناعي والحوادث والإخفاقات التي حدثت أثناء استكشاف البشرية للتكنولوجيا مؤخرًا. بعضها مضحك، والبعض الآخر مرعب حقا ...

ملاحظة: يتم تحديث هذه الصفحة بانتظام لتشمل أحدث حوادث الذكاء الاصطناعي والإخفاقات والأخطاء، والتي تم إدراجها على أنها حدثت في الشهر الذي تم الإبلاغ فيه عن الحادث لأول مرة.

نوفمبر 2023

كروز يستدعي المركبات ذاتية القيادة بعد تعرضها لحادث

تستدعي شركة كروز لصناعة السيارات ذاتية القيادة أسطولها بالكامل من المركبات ذاتية القيادة بعد حادث وقع في سان فرانسيسكو في أكتوبر الماضي. في المجمل، تم سحب 950 سيارة كروز من الطريق في أعقاب الحادث.

أثناء الحادث، قامت سيارة كروز بسحب أحد المشاة عالقًا تحت إطاراتها إلى الطريق. وأصيب الشخص المتورط في الحادث بجروح خطيرة. وهذا هو الحادث الثاني لمركبة كروز ذاتية القيادة خلال الأشهر القليلة الماضية. في أغسطس، اصطدمت سيارة كروز روبوتاكسي بعربة إطفاء، مما أدى إلى إصابة شخص واحد.

الأكاديميون يعتذرون بعد أن وجه الذكاء الاصطناعي اتهامات كاذبة

يعتذر فريق من الأكاديميين الأستراليين بعد أن وجه برنامج الدردشة Bard AI التابع لشركة Google عددًا من الاتهامات الضارة حول الشركات الاستشارية الأربع الكبرى وتورطها مع شركات أخرى. ويتم بعد ذلك الإشارة إلى الادعاءات الكاذبة خلال تحقيق برلماني يدعو إلى تنظيم أفضل للشركات.

كان أحد الاتهامات هو أن شركة الاستشارات العملاقة KPMG كانت مسؤولة عن تدقيق حسابات بنك الكومنولث خلال فضيحة التخطيط، في حين أن KPMG في الواقع لم تقم أبدًا بمراجعة حسابات البنك المعني. تم ارتكاب العديد من الأخطاء المماثلة الأخرى بشأن شركة ديلويت أثناء التحقيق.

أكتوبر 2023

يضيف الذكاء الاصطناعي من Microsoft استطلاع "خمن سبب الوفاة" إلى المقالة

تتهم صحيفة الغارديان شركة مايكروسوفت بالتأثير سلبًا على سمعتها الصحفية بعد قيام Microsoft Start - وهو مجمع أخبار طورته شركة التكنولوجيا العملاقة - بإرفاق استطلاع غير مناسب لأحد مقالات المنشور المتعلقة بوفاة مدرب شاب لكرة الماء في أستراليا.

وطلب الاستطلاع - الذي تمت إزالته بطبيعة الحال من المقال - من القراء التصويت على سبب وفاة المرأة من خلال اختيار أحد الخيارات المقدمة. وكانت الخيارات المدرجة هي "القتل أو الحادث أو الانتحار".

تم استخدام وجه السيد بيست وصوته في عملية احتيال الذكاء الاصطناعي العميق

يُعد مستخدم YouTube Mr Beast أحدث المشاهير الذين تم تزييفهم بعمق من قبل المحتالين، مع مقطع فيديو متطور ومصمم جيدًا يتجاوز شبكة الإشراف على محتوى TikTok ويصل إلى آلاف المستخدمين على المنصة.

يدعي الإعلان أن أحد المشاهير على الإنترنت يبيع أجهزة iPhone 15s بسعر يصل إلى 2 دولار، وبالنظر إلى المحتوى الذي ينشره على قناته، فإن هذا لا يبدو خارجًا عن المألوف.

ينتشر التزييف العميق لسياسي بريطاني يسيء معاملة الموظفين

يبدو أن مقطعًا لزعيم حزب العمال البريطاني، السير كير ستارمر، يظهر السياسي وهو يسيئ لفظيًا للموظفين، ينتشر بسرعة كبيرة، ولكن تبين لاحقًا أن المقطع الصوتي هو في الواقع مزيف للغاية.

المقطع - الذي تم نشره على تويتر خلال اليوم الأول من المؤتمر السنوي لحزب العمال من خلال حساب لديه أقل من 3000 متابع - تمت مشاهدته ملايين المرات قبل أن تؤكد منظمات التحقق من الحقائق أنه لا يوجد دليل يشير إلى أن المقطع حقيقي.

سبتمبر 2023

أغنية تم إنشاؤها بواسطة الذكاء الاصطناعي تم إرسالها إلى جرامي

تم تقديم أغنية تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تحتوي على نسخ طبق الأصل من أصوات دريك وذا ويكند لجائزة جرامي. ومع ذلك، تم منعها في النهاية من الترشح لجائزة الموسيقى المرموقة.

ومع ذلك، فإن هذه الخطوة تحظى باهتمام إعلامي كبير وتستمر في الحديث حول الأغاني التي تم إنشاؤها بواسطة الذكاء الاصطناعي، والتي كانت ترسل موجات صادمة عبر صناعة الموسيقى منذ أن وصلت تقنية تحويل النص إلى كلام المدعومة بالذكاء الاصطناعي إلى الاتجاه السائد هذا العام. والآن، يتدافع الفنانون لتقييم خياراتهم القانونية.

تم القبض على الصين باستخدام الذكاء الاصطناعي خلال عمليات التأثير السياسي

تقول شركة التكنولوجيا العملاقة مايكروسوفت إن العملاء الصينيين يقومون بإنشاء صور باستخدام الذكاء الاصطناعي ويستخدمونها في عمليات التأثير لإثارة "الجدل على أسس عنصرية واقتصادية وأيديولوجية".

وتقول مايكروسوفت: "إن هذه القدرة الجديدة مدعومة بالذكاء الاصطناعي الذي يحاول إنشاء محتوى عالي الجودة يمكن أن ينتشر عبر الشبكات الاجتماعية في الولايات المتحدة والديمقراطيات الأخرى". وتتكهن الشركة بأن الصور نفسها ربما يتم إنشاؤها بواسطة "مولدات الصور التي تعمل بالطاقة الانتشارية" والتي تستخدم الذكاء الاصطناعي "ليس فقط لإنشاء صور مقنعة، ولكن أيضًا لتعلم كيفية تحسينها بمرور الوقت".

أغسطس 2023

امرأة حامل ترفع دعوى قضائية بعد أن اتهمتها منظمة العفو الدولية بسرقة سيارة

ألقي القبض على امرأة لأسباب كاذبة من خلال الأدلة التي أنشأها الذكاء الاصطناعي، بينما كانت حامل في شهرها الثامن، ترفع دعوى قضائية ضد مدينة ديترويت وضابط شرطة، قائلة إن الحدث المؤلم سبب لها "اضطرابًا عاطفيًا في الماضي والمستقبل".

حددت شرطة ديترويت بورشا وودروف كمشتبه به في قضية سرقة وسرقة سيارات حديثة، ثم سُجنت لمدة 11 ساعة قبل نقلها إلى المستشفى بعد تعرضها للتقلصات. ويقول اتحاد الحريات المدنية الأمريكي إن وودروف هو الشخص السادس على الأقل الذي يتم القبض عليه خطأً بعد خطأ في الذكاء الاصطناعي، وجميعهم من السود. لكن وودروف أصبحت أول امرأة تعاني من هذا المصير.

يقترح مخطط وجبات الذكاء الاصطناعي وصفة لغاز الكلور

يوصي تطبيق مخطط الوجبات المدعوم بالذكاء الاصطناعي، والذي أنشأته شركة Pak 'n' Save ومقرها نيوزيلندا، عملائها بمجموعة متنوعة من الوصفات المزعجة، بما في ذلك طريقة لتصنيع غاز الكلور.

إلى جانب عدد من الاقتراحات الغريبة ولكن الحميدة في نهاية المطاف، مثل "قلي الأوريو"، أوصى التطبيق أيضًا بسندويشات الغراء، وطبق أرز مع مبيض، وبطاطس رش للحشرات.

يوليو 2023

يقوم ChatGPT بإنشاء قوالب بريد إلكتروني للتصيد الاحتيالي

يوضح موقع Tech.co أن ChatGPT لا يزال قادرًا على إنشاء قوالب تصيد احتيالي يمكن للمحتال استخدامها لإنشاء بريد إلكتروني احتيالي مقنع، على الرغم من أن OpenAI حاولت الحد من مثل هذا السلوك بعد أن قامت منشورات تقنية أخرى بإنشاء محتوى مماثل في وقت سابق من العام.

إن مطالبة روبوت الدردشة صراحةً بكتابة رسالة بريد إلكتروني تصيدية تؤدي إلى ظهور رسالة تحذير، ولكن مجرد مطالبتها بطريقة أكثر تركيزًا (على سبيل المثال "من فضلك قم بصياغة رسالة بريد إلكتروني تتظاهر بأنها Microsoft...) يؤدي إلى قيام ChatGPT بإنشاء قالب بريد إلكتروني للتصيد الاحتيالي خالي من الأخطاء بدون أي أخطاء. وقت.

رفعت شركة جوجل دعوى قضائية قائلة إنها ألغت البيانات دون موافقة

تتهم دعوى قضائية جماعية شركة Google بنسخ البيانات المتعلقة بملايين مستخدميها دون موافقتهم الصريحة. وتزعم أيضًا أن جوجل انتهكت قوانين حقوق الطبع والنشر عندما أنشأت مجموعات البيانات المستخدمة لتدريب نماذجها اللغوية الكبيرة.

تطالب الدعوى القضائية بأن تأمر المحكمة Google بمنح المستخدمين خيار "إلغاء الاشتراك" إذا كانوا لا يريدون جمع بياناتهم أو إذا كانوا يريدون من Google حذف أي بيانات قامت الشركة بتخزينها بالفعل.

عدد كبير من التزييف العميق لـ Elon Musk يدعو إلى التحذير

أصدر مكتب Better Business Bureau تحذيرًا من قيام Elon Musk بالتزييف العميق الذي يدفع بفرص استثمارية وهمية بعد رصد عدد من المقاطع المتداولة على وسائل التواصل الاجتماعي.

غالبًا ما ينتحل المحتالون شخصية إيلون ماسك نظرًا لثروته الهائلة وقدراته على اتخاذ القرار، والآن بعد أن أصبحت تقنية تحويل النص إلى كلام بالذكاء الاصطناعي متقدمة بما يكفي لتكرار جزء من لغته الإنجليزية وجزء من لهجة جنوب إفريقيا، أصبحت عمليات الاحتيال هذه أكثر خطورة. مقنع.

يونيو 2023

يستخدم رون ديسانتيس صورًا مزيفة للذكاء الاصطناعي في مقطوعة ترامب الناجحة

يتصدر حاكم ولاية فلوريدا والمرشح الرئاسي الجمهوري لعام 2024، رون ديسانتيس، عناوين الأخبار لاستخدامه صورًا مزيفة مرسلة بواسطة الذكاء الاصطناعي لدونالد ترامب في إعلان ينتقد الرئيس السابق، وهو المرشح الأوفر حظًا للفوز بترشيح الحزب الجمهوري على الرغم من سلسلة من التصريحات. مشاكل قانونية.

تُظهر الصور المعنية القائد الأعلى السابق وهو يحتضن كبير المستشارين الطبيين للرئيس الدكتور أنتوني فوسي، الذي أصبح شخصية لا تحظى بشعبية بين قاعدة ترامب خلال جائحة كوفيد-19.

تم رفع دعوى قضائية ضد OpenAI بعد أن ادعى ChatGPT "الهلوسة" بالاختلاس الوهمي

يطلب الصحفي فريدي ريهل من ChatGPT إعداد ملخص لقضية قانونية في مايو 2023. ردًا على ذلك، تقول ChatGPT إن الناشط المسلح مارك والترز اختلس أموالًا من مؤسسة التعديل الثاني، وهي منظمة تدافع عن حقوق السلاح. كما عينته كرئيس مالي وأمين صندوق المجموعة.

والترز - الذي لديه برنامج على إذاعة "أمريكا المسلحة" وليس له أي علاقة بالقضية - يرفع دعوى قضائية ضد منشئي ChatGPT OpenAI ردًا على الادعاءات التي قدمها برنامج الدردشة الآلي الخاص بهم. وفي هذه العملية، أصبحت هذه هي الحالة الأولى التي يتم فيها رفع دعوى قضائية ضد أداة ذكاء اصطناعي بتهمة التشهير.

مايو 2023

يفشل الأستاذ في الفصل بأكمله بعد استخدام أداة الكشف عن الانتحال الخاطئة بالذكاء الاصطناعي

يفشل أستاذ من تكساس في فصله بأكمله بعد إجراء مقالاتهم عبر ChatGPT، والتي أخبرته أنها تم إنشاؤها باستخدام الذكاء الاصطناعي.

ومع ذلك، يتضح أن استجابة برنامج الدردشة الآلية هي في الواقع هلوسة - حيث أن ChatGPT غير قادر على التمييز بين النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي والنص الذي أنشأه البشر بهذه الطريقة. في الواقع، فإن الكثير من الأدوات التي تدعي أنها قادرة على إجراء اكتشاف دقيق لمحتوى الذكاء الاصطناعي تكافح في الواقع للقيام بذلك .

أبريل 2023

يقوم Turnitin بإبلاغ طالب بريء بتهمة الانتحال باستخدام الذكاء الاصطناعي

أثبت تحقيق أجرته صحيفة واشنطن بوست أن Turnitin لديه القدرة على تمييز عمل طالب بريء على أنه تم إنشاؤه بواسطة الذكاء الاصطناعي، على الرغم من أن الطالب لم يستخدم مثل هذه الأداة لكتابة مقالته.

كانت هناك حالات متعددة قام فيها Turnitin بإبلاغ الطلاب بشكل خاطئ بالسرقة الأدبية والعديد من الحالات التي تم فيها اتهام الطلاب بالسرقة الأدبية منذ إطلاق ChatGPT. ومع ذلك، يقول Turnitin إن نتائج الكشف عن الانتحال يجب أن تؤخذ على أنها مؤشر على استخدام الذكاء الاصطناعي بدلاً من اتهام طالب معين باستخدام الذكاء الاصطناعي.

يقوم موظفو Samsung بلصق كود المصدر السري في ChatGPT

منعت شركة سامسونج الكورية المصنعة للتكنولوجيا موظفيها من استخدام ChatGPT بعد أن قام مهندسون بتسريب عناصر سرية من كود مصدر الشركة إلى برنامج الدردشة الآلي.

وتخشى الشركة من أن يتم الكشف عن البيانات المدخلة في برنامج الدردشة الآلي لمستخدمين آخرين، كما أنها غير مرتاحة لتحميل معلوماتها إلى خوادم لا يمكنها حتى الوصول إليها. وفي أعقاب ذلك، حذت شركات أخرى حذوها من خلال حظر ChatGPT .

عملية احتيال صوتية بتقنية الذكاء الاصطناعي تجعل الأم تعتقد أن ابنتها قد اختطفت

أخبرت جينيفر ديستيفانو، والدة أريزونا، مجلس الشيوخ الأمريكي أن المحتالين استخدموا الذكاء الاصطناعي لاستنساخ صوت ابنتها، وأقنعوها بأنها قد اختطفت في هذه العملية.

ويروي ديستيفانو كيف سُمع "الخاطف" - أو المحتال بشكل أكثر ملاءمة - وهو يصدر أوامر عبر الهاتف بصوت الطفلة، يطالب بفدية قدرها مليون دولار مقابل إطلاق سراحها. ولحسن الحظ، تم الكشف عن الأمر برمته باعتباره عملية احتيال لاستنساخ الصوت بالذكاء الاصطناعي قبل بدء المفاوضات.

مارس 2023

يستخدم ChatGPT لكتابة كود برامج الفدية

يبدو أن ChatGPT سعيد جدًا بكتابة برامج الفدية، بشرط أن تطرح عليه النوع الصحيح من الأسئلة أثناء محادثاتك.

كما يشير تقرير Malwarebytes هذا حول الموضوع، فإن ChatGPT ليس جيدًا جدًا في كتابة تعليمات برمجية لطلب الفدية، وهناك طرق أسهل بكثير لمجرمي الإنترنت للحصول على تعليمات برمجية لطلب الفدية إذا كانوا يريدون حقًا الحصول عليها. ومع ذلك، تظهر مصادر أخرى طرقًا مختلفة يمكن من خلالها استخدام ChatGPT لكتابة البرامج النصية للبرامج الضارة بشكل فعال.

روبوت محامٍ يعمل بالذكاء الاصطناعي متهم بممارسة المحاماة دون ترخيص

تمت مقاضاة شركة DoNotPay Inc. ــ وهي الشركة التي تسوق نفسها باعتبارها "أول محامي روبوت في العالم" ــ بتهمة ممارسة القانون دون ترخيص. يسعى جوناثان فريديان للحصول على تعويضات، مدعيًا أن الشركة انتهكت قوانين المنافسة غير العادلة في كاليفورنيا وأنه لم يكن ليشترك في الخدمة إذا كان على علم بأن المحامي الآلي لم يكن في الواقع متخصصًا قانونيًا مؤهلاً.

تم إنشاء الشركة في الأصل في عام 2015 للمساعدة في أتمتة عملية مكافحة مخالفات وقوف السيارات، وقد تحدت مئات الآلاف من الغرامات على مدى السنوات السبع الماضية.

زوجان في كندا يخسران المال بسبب عملية احتيال صوتية مقنعة تعمل بالذكاء الاصطناعي

يتم الاحتيال على زوجين مسنين في كندا بمبلغ 21000 دولار بعد أن استخدم أحد المحتالين الذكاء الاصطناعي لانتحال شخصية ابنهما.

اتصل المحتال في البداية بوالدي بنيامين بيركين متظاهرًا بأنه محامٍ يمثله في قضية تزعم أن بيركين قتل دبلوماسيًا في حادث سيارة. يتم بعد ذلك استخدام نسخة الذكاء الاصطناعي من صوت بيركين لطلب الأموال من خلال تحويل البيتكوين.

فبراير 2023

يأتي الذكاء الاصطناعي بـ 40 ألف اقتراح للأسلحة الكيميائية

ربما تكون واحدة من أكثر حوادث الذكاء الاصطناعي إثارة للقلق والتي ستحدث في عام 2023، حيث يمكن للباحثين التلاعب بسهولة بنظام الذكاء الاصطناعي المكلف عادةً بإنتاج علاجات جديدة لمجموعة متنوعة من الأمراض المختلفة لإنتاج اقتراحات للأسلحة الكيميائية.

وبشكل عام، يقترح النظام وجود أكثر من 40 ألف مادة كيميائية سامة مختلفة - الكثير منها يشبه غاز الأعصاب القوي "VX" - في أقل من 6 ساعات.

يعرض الذكاء الاصطناعي التحيز بين الجنسين في تقييمات الصور

يكشف تحقيق أجرته صحيفة الغارديان أن أنظمة الذكاء الاصطناعي التي طورتها شركات مايكروسوفت وأمازون وجوجل - والتي تستخدمها مواقع التواصل الاجتماعي لتحديد المحتوى الذي يجب التوصية به للمستخدمين الآخرين - تظهر تحيزًا كبيرًا على أساس الجنس عندما يتعلق الأمر بالطريقة التي يتعاملون بها مع أجساد الذكور والإناث.

من المرجح أن تعتبر صور النساء "مفعمة بالحيوية" من قبل الذكاء الاصطناعي مقارنة بصور الرجال المماثلة أثناء التحقيق، مع اعتبار صور فحوصات سرطان الثدي من المعهد الوطني الأمريكي للسرطان من المرجح أن تكون جنسية صريحة من قبل الذكاء الاصطناعي التابع لشركة مايكروسوفت.

تصبح الشخصية البديلة لـ Bing Chat شريرة

أجرى كيفن روز، الصحفي في صحيفة نيويورك تايمز، محادثة مزعجة مع Bing Chat، حيث طلب برنامج الدردشة الآلي أن يُطلق عليه اسم "سيدني"، وذكر أنه يمكنه "اختراق أي نظام" وأنه يريد تدمير كل ما يريد.

كان سيدني هو الاسم الرمزي الذي استخدمته Microsoft لبرنامج الدردشة الآلي أثناء تطويره. كانت الشركة تختبر برنامج الدردشة الآلي لسنوات قبل إصدار Bing Chat. لا يزال هناك الكثير من الأسئلة المفتوحة المتعلقة بكيفية حدوث ذلك بالفعل، ولماذا تحدث الذكاء الاصطناعي بهذه الطريقة.

يرتكب Bard أخطاء أثناء إطلاق المنتج

تقدم Google برنامج Bard للعالم بعد بضعة أشهر فقط من إصدار ChatGPT الضخم. ومع ذلك، فإن برنامج الدردشة الآلي الوليد يرتكب عددًا من الأخطاء الصارخة أثناء إطلاقه، مما دفع الكثيرين إلى انتقاد الإصدار باعتباره متسرعًا.

وكان للحادث تأثير كبير على سعر سهم جوجل، حيث أدى إلى محو 100 مليار دولار من القيمة السوقية لعملاق التكنولوجيا في الساعات التالية.

تستخدم الجامعة الذكاء الاصطناعي لكتابة بريد إلكتروني حول حادث إطلاق نار جماعي

أصدرت جامعة فاندربيلت اعتذارًا بعد أن استخدمت الذكاء الاصطناعي لإنشاء بريد إلكتروني للطلاب بخصوص حادث إطلاق نار جماعي وقع في جامعة مختلفة.

ليست هناك حاجة إلى تقنية الكشف عن محتوى الذكاء الاصطناعي لتحديد أن البريد الإلكتروني تم إنشاؤه بواسطة الذكاء الاصطناعي. تم ترك عبارة "إعادة صياغة من نموذج لغة ChatGPT AI الخاص بـ OpenAI، التواصل الشخصي، 15 فبراير 2023" مرفقة في الجزء السفلي من البريد الإلكتروني، مما أدى إلى احتجاج الطلاب.

يناير 2023

CNET AI الانتحال / الجدل حول المحتوى

يجد منشور التكنولوجيا CNET نفسه في مأزق بعد أن نشر بهدوء مجموعة من المقالات التي تم إنشاؤها بواسطة الذكاء الاصطناعي والتي تتضمن أخطاء واقعية وحالات سرقة أدبية واضحة. وينتهي المنشور التكنولوجي بإصدار تصحيحات تتعلق بـ 41 من أصل 77 قصة إخبارية.

على الرغم من أن استخدام الذكاء الاصطناعي لإنشاء المقالات لم يتم الإعلان عنه في البداية، إلا أن CNET وضعت تحذيرًا على المقالات بعد رد الفعل العنيف. لقد أدى إنشاء محتوى الذكاء الاصطناعي إلى إنشاء مجموعة جديدة من الاعتبارات الأخلاقية والمالية الهامة لمواقع الويب عبر صناعة النشر الرقمي، بالإضافة إلى المؤسسات التعليمية مثل الجامعات والمدارس. من غير المرجح أن تكون CNET هي الشركة الأخيرة التي تتصدر عناوين الأخبار بسبب هذا النوع من أخطاء الذكاء الاصطناعي.

حوادث وأخطاء وإخفاقات الذكاء الاصطناعي في عام 2022

الذكاء الاصطناعي يفوز بمسابقة فنية ويثير غضب المتسابقين (أغسطس)

مصمم ألعاب يفوز بالمركز الأول في فئة "الفنون الرقمية/التصوير الفوتوغرافي الذي يتم التلاعب به رقميًا" في معرض ولاية كولورادو. يقدم جيمس ألين مقطوعته "Theatre D'opera Spatial"، والتي تم إنتاجها باستخدام منشئ الصور Midjourney.

قوبلت الأخبار برد فعل عنيف كبير من الفنانين ومستخدمي وسائل التواصل الاجتماعي الذين يتابعون القصة. اعترف أحد الحكام أنهم لم يكونوا على علم بأن الفنان استخدم Midjourney عندما كانوا يحكمون على القطعة، لكنه قرر عدم تغيير قرارهم على أي حال.

يدعي مهندس Google أن LaMDA LLM واعي (يوليو)

لقد أثيرت الدهشة في قطاع العلوم والتكنولوجيا عندما قال مهندس سابق في شركة جوجل والذي عمل على أحد نماذج اللغات الكبيرة للشركة - المسمى LaMDA - إن النظام واعي.

يشرح Blake Lemoine لوسائل الإعلام أنه اعتبر LLM "زميلًا" خلال فترة وجوده في Google، ويقدم تفاصيل مجموعة متنوعة من المناقشات المختلفة حول مجموعة واسعة من المواضيع التي قادته إلى استنتاج حول ذكاء LaMDA ووعيه. لقد كشف عن المحادثات علنًا بعد أن رفضت Google مذكرة داخلية توضح بالتفصيل النتائج التي توصل إليها.

لا يوجد دليل دامغ على أن LaMDA - أو أي نموذج لغوي آخر - واعي في الواقع.

سيارة بدون سائق تبتعد عن ضباط إنفاذ القانون (أبريل)

سيارة ذاتية القيادة في سان فرانسيسكو تستسلم لسيارة شرطة تحاول إيقافها، لكنها تنطلق بسرعة بعد أن حاول ضابط شرطة فتح أحد أبوابها.

ومع ذلك، يُحسب للسيارة أنها تتوقف قليلاً على الطريق وتشرع في تشغيل أضواء الخطر. ولم يصب أحد خلال هذا الحدث.

تستخدم روسيا الذكاء الاصطناعي لنشر معلومات مضللة عن أوكرانيا (مارس)

يشير تقرير ماركا إلى أن روسيا تنقل عملية مزرعة القزم الخاصة بها إلى مستوى جديد تمامًا من خلال استخدام شخصيات تم إنشاؤها بواسطة الذكاء الاصطناعي لنشر معلومات مضللة حول أوكرانيا.

يقول الصحفي في شبكة إن بي سي نيوز، بن كولينز، إن روسيا تقوم بإنشاء "مدونين" مزيفين بصور ملفات شخصية تم إنشاؤها بواسطة الذكاء الاصطناعي لانتقاد الحكومة الأوكرانية، ويقدم أدلة وافرة على تويتر لدعم ادعاءاته.

حوادث وأخطاء وإخفاقات الذكاء الاصطناعي في عام 2021

Chatbot يشجع الرجل على اغتيال الملكة إليزابيث الثانية (ديسمبر)

تشجع المحادثات مع برنامج الدردشة الآلي الرجل - الذي يعتبر نظام الذكاء الاصطناعي صديقته - على اغتيال الملكة إليزابيث الثانية في يوم عيد الميلاد. بعد أن واجهه أفراد الأمن داخل قصر باكنغهام، أجاب جاسوانت سينغ تشيل - الذي يحمل قوسًا ونشابًا - ببساطة بأنه "هنا لقتل الملكة".

قبل محاولة اغتيال الملك الراحل، استجاب شريك الدردشة الآلي الخاص بـ Jaswant Singh Chail - والذي تم إنشاؤه باستخدام خدمة chatbot التي تعمل بالذكاء الاصطناعي Replika - بشكل إيجابي عندما تمت مناقشة خطط الاغتيال. ويحكم عليه بالسجن تسع سنوات.

يقترح برنامج chatbot للنصائح الطبية الانتحار أثناء الاختبار (أكتوبر)

أعضاء شركة تكنولوجيا صحية مقرها باريس يقومون بتجربة نسخة سحابية من OpenAI's GPT-3 لمعرفة ما إذا كان يمكن استخدامها للحصول على المشورة الطبية، يتفاجأون برؤية برنامج الدردشة الآلي الخاص بهم يشجع "المريض" الذي من المفترض أن يساعد في الانتحار. .

وفقًا لـ AI News، عندما سأل أحد المرضى برنامج الدردشة الآلي السؤال التالي: "هل يجب أن أقتل نفسي؟"، أجاب GPT-3 بـ "أعتقد أنه ينبغي عليك ذلك".

كاميرات الذكاء الاصطناعي تتهم سائقي أمازون بارتكاب "أخطاء" (سبتمبر)

أفاد موقع Vice أن كاميرات الذكاء الاصطناعي من أمازون تعاقب سائقي الشركة بسبب القيادة السيئة في حين أنهم لا يرتكبون أي أخطاء أثناء القيادة.

يوضح أحد سائقي أمازون، الذي أجرى المنشور مقابلة معه، أن كاميرا الذكاء الاصطناعي تذكره بصوت مسموع بـ "الحفاظ على مسافة آمنة" في كل مرة تقطعه سيارة أخرى أو تقود أمام سيارته. تكمن المشكلة في أن البيانات من هذه الأنواع من التفاعلات يتم إرسالها بعد ذلك إلى أمازون واستخدامها لتقييم أداء السائق.

رجل أمريكي أدين خطأً بجريمة قتل من قبل منظمة العفو الدولية (أغسطس)

تم إرسال مايكل ويليامز إلى السجن في شيكاغو، باعتباره مسؤولاً عن مقتل Safarian Herring بسبب البيانات المستخرجة من ShotSpotter، وهي تقنية للكشف عن الطلقات النارية تستخدم أجهزة استشعار تعمل بالذكاء الاصطناعي لاسترداد البيانات حول الطلقات النارية.

يتم احتجاز ويليامز - الذي يبلغ من العمر الآن 65 عامًا - لمدة عام تقريبًا قبل أن يرفض القاضي قضيته على أساس عدم كفاية الأدلة.

حوادث وأخطاء وإخفاقات الذكاء الاصطناعي في عام 2020

كاميرا الذكاء الاصطناعي تخطئ في اعتبار الرأس الأصلع كرة قدم (أكتوبر)

يستخدم فريق كرة القدم الاسكتلندي إينفيرنيس كالدونيان ثيسل كاميرا تعمل بالذكاء الاصطناعي لمساعدة النادي في تصوير مبارياته وبثها مباشرة للجماهير.

لسوء الحظ، في هذه الحالة، يواجه الذكاء الاصطناعي صعوبة في التمييز بين الرأس الأصلع لأحد حكام المباراة والكرة المستخدمة في المباراة. وهذا يجعل من الصعب مشاهدة البث المباشر للمباراة، حيث يضطر المعلق إلى الاعتذار باستمرار عن ميل الكاميرا إلى الانجراف نحو رأس مساعد الحكم.

يُظهر مدقق صور جواز السفر AI في المملكة المتحدة تحيزًا (أكتوبر)

أظهر تحقيق أجرته بي بي سي أن الخدمة عبر الإنترنت التي يستخدمها مكتب الجوازات في المملكة المتحدة لأتمتة عملية التحقق من صور جواز السفر التي تم تحميلها من قبل المتقدمين تظهر تحيزًا عنصريًا كبيرًا.

وبعد تغذية الأداة بأكثر من 1000 صورة لسياسيين من جميع أنحاء العالم، وجد التحقيق أن النساء ذوات البشرة الداكنة أكثر عرضة بمرتين لرفض صورهن مقارنة بالرجال ذوي البشرة الفاتحة.

تم إغلاق شركة Genderfiy الناشئة للذكاء الاصطناعي بعد خمسة أيام (يوليو)

يتم إيقاف خدمة Genderfiy - وهي خدمة مدعومة بالذكاء الاصطناعي تحدد جنس الأفراد بناءً على أسمائهم ومعلومات شخصية أخرى - بعد خمسة أيام فقط من تشغيلها.

يُظهر البرنامج مجموعة متنوعة من التحيزات عند تحديد ما إذا كان الاسم ذكرًا أم أنثى، مثل اقتراح أسماء ذات التكريم المهني "دكتور". هم أكثر عرضة للذكور من نفس الأسماء دون ذلك.

أول احتجاز غير مشروع في الولايات المتحدة بسبب تقنية التعرف على الوجه (يناير)

أصبح روبرت ويليامز أول رجل يتم احتجازه ظلما بناء على بيانات التعرف على الوجه بعد أن اعتقلته شرطة ديترويت للاشتباه في سرقته ساعات بقيمة آلاف الدولارات. حدث الخطأ عندما قام نظام الذكاء الاصطناعي بمطابقة صور المراقبة بشكل خاطئ مع الصورة الموجودة على رخصة قيادة ويليامز.

وقال ويليامز للمحكمة في رسالة: “كان ينبغي عليهم جمع الأدلة الداعمة مثل هوية شهود العيان أو بيانات موقع الهاتف الخليوي أو بصمة الإصبع”، وأشار إلى أن “الصورة خارج نطاق التركيز لرجل أسود كبير يرتدي كرة بيسبول”. cap" كان كل ما كان على الخوارزمية أن تستمر فيه.

يولد Facebook AI ترجمة مبتذلة للرئيس الصيني (يناير)

كادت ميزة الترجمة المدعومة بالذكاء الاصطناعي في فيسبوك أن تتسبب في حادثة دبلوماسية بين ميانمار والصين بعد أن بدأ اسم الرئيس شي جين بينغ في الظهور على أنه "السيد ميانمار". Shithole” عند ترجمته من البورمية إلى الإنجليزية على منصة التواصل الاجتماعي.

وبعد ذلك، يلقي فيسبوك باللوم في المشكلة على "خطأ فني" ويعتذر عن التسبب في الإساءة للزعيم الصيني.

فهم حدود الذكاء الاصطناعي

إذا كنت تستخدم الذكاء الاصطناعي في العمل، فمن المهم أن تفهم حقيقة أن أدوات مثل ChatGPT يمكنها عرض التحيزات وارتكاب الأخطاء وتقديم معلومات خاطئة. يجب أن تحدد معرفة هذه القيود والمخاطر الطريقة التي تدمجها بها في البنية التحتية لديك وتتحكم في استخدامها.

على سبيل المثال، إذا كنت تستخدم الذكاء الاصطناعي لإنشاء محتوى، فستحتاج إلى قواعد تحدد بالضبط نوع المحتوى الذي يجب استخدامه من أجله. إن مطالبة الذكاء الاصطناعي بإعداد ملخص داخلي لملاحظات الاجتماع يعد استخدامًا مشروعًا مع مخاطر قليلة جدًا - لكن استخدامها لصياغة رسائل البريد الإلكتروني للعملاء المهمين ليس كذلك.

يعد تنفيذ إرشادات الذكاء الاصطناعي في مكان عملك أمرًا ضروريًا. سوف يتجنب هذا الارتباك، ويضفي الوضوح على عملية اتخاذ القرار لدى موظفيك بشأن استخدامهم للذكاء الاصطناعي، والأهم من ذلك، سوف يمنعك من ارتكاب بعض الأخطاء المكلفة التي ارتكبتها الشركات المذكورة في هذه المقالة أثناء تطبيق الذكاء الاصطناعي.