Yapay Zeka Yanlış Gitti: Yapay Zeka Hataları, Hataları ve Başarısızlıklarının Güncellenmiş Listesi 2023

ChatGPT'nin Kasım 2022'deki lansmanından bu yana yapay zekanın dünyamız üzerinde sismik bir etkisi oldu. Artık işletmeler her gün yapay zekayı kullanmanın yeni yollarını buluyor .

Halihazırda çok sayıda yapay zeka başarı öyküsü mevcut ve Bard ve Claude gibi diğer sohbet robotları da artık on binlerce kişi tarafından kullanılıyor; ancak yapay zekadan yararlanmanın korkunç derecede yanlış gittiği birçok durum da yaşandı.

Yapay zeka araçlarını çevreleyen sınırlamaların ve risklerin farkında olmak önemlidir; bu nedenle, insanlığın yakın zamanda teknolojiyi keşfetmesi sırasında meydana gelen tüm yapay zeka hatalarının , aksiliklerin ve başarısızlıkların bir listesini derledik. Bazıları komik, bazıları ise gerçekten dehşet verici…

Not: Bu sayfa, olayın ilk rapor edildiği ayda meydana gelen en son AI olaylarını, arızalarını ve hatalarını içerecek şekilde düzenli olarak güncellenmektedir.

Kasım 2023

Cruise kazadan sonra otonom araçlarını geri çağırıyor

Sürücüsüz otomobil üreticisi Cruise, Ekim ayında San Francisco'da meydana gelen bir kazanın ardından otonom araç filosunun tamamını geri çağırıyor. Olayın ardından toplamda 950 Cruise aracı yollardan çekildi.

Kaza sırasında Cruise aracı, lastiklerinin altına sıkışan yayayı yola sürükledi. Kazaya karışan şahıs ağır yaralandı. Bu, Cruise'un son birkaç aydaki ikinci sürücüsüz araç olayı. Ağustos ayında bir Cruise Robotaksi bir itfaiye aracıyla çarpıştı ve bir yaralanmaya neden oldu.

Yapay zekanın asılsız suçlamalarda bulunmasının ardından akademisyenler özür diledi

Avustralya'dan bir akademisyen ekibi, Google'ın Bard AI sohbet robotunun Büyük Dört danışmanlık firmaları ve onların diğer şirketlerle ilişkileri hakkında bir dizi zarar verici suçlamada bulunmasının ardından özür diledi. Yanlış iddialar daha sonra şirketlerin daha iyi düzenlenmesi çağrısında bulunan bir parlamento soruşturması sırasında referans olarak gösteriliyor.

Suçlamalardan biri, danışmanlık devi KPMG'nin bir planlama skandalı sırasında Commonwealth Bank denetiminden sorumlu olduğu yönündeydi; oysa gerçekte KPMG söz konusu bankayı hiçbir zaman denetlememişti. Soruşturma sırasında Deloitte hakkında da benzer hatalar yapıldı.

Ekim 2023

Microsoft'un yapay zekası makaleye "ölüm nedenini tahmin et" anketini ekledi

Guardian, Microsoft'u, teknoloji devi tarafından geliştirilen bir haber toplayıcı olan Microsoft Start'ın, Avustralya'da genç bir sutopu koçunun ölümüyle ilgili yayının makalelerinden birine uygunsuz bir anket eklemesinin ardından gazetecilik itibarını olumsuz etkilemekle suçluyor.

Doğal olarak makaleden çıkarılan ankette okuyuculardan, sunulan seçeneklerden birini seçerek kadının ölüm nedeni konusunda oy vermeleri istendi. Listelenen seçenekler “cinayet, kaza veya intihar” idi.

Bay Canavar'ın yüzü ve sesi AI deepfake dolandırıcılığında kullanıldı

YouTuber Mr Beast, özellikle sofistike, iyi hazırlanmış bir videoyla TikTok'un içerik denetleme ağını atlayarak platformda binlerce kullanıcıya ulaşan, dolandırıcılar tarafından deepfake edilen en son ünlü oldu.

Reklamda internet ünlüsünün iPhone 15'leri 2 dolar gibi düşük bir fiyata sattığı iddia ediliyor. Kanalında paylaştığı içerikler göz önüne alındığında bu durum pek de sıra dışı gelmiyor.

İngiliz politikacının personelini taciz ettiğine dair deepfake viral oldu

Birleşik Krallık İşçi Partisi lideri Sir Keir Starmer'ın, politikacının personele sözlü tacizde bulunduğunu gösteren bir klip viral oluyor, ancak daha sonra ses klibinin aslında derin bir sahte olduğu ortaya çıktı.

İşçi Partisi'nin yıllık konferansının ilk gününde 3.000'den az takipçisi olan bir hesap tarafından Twitter'da paylaşılan klip, doğrulama kuruluşları, klibin gerçek olduğunu gösteren hiçbir kanıt olmadığını doğrulamadan önce milyonlarca kez izlendi.

Eylül 2023

Yapay zeka tarafından üretilen şarkı Grammy'lere sunuldu

Drake ve Weeknd'in seslerinin kopyalarını içeren, yapay zeka tarafından oluşturulan bir şarkı Grammy ödülüne sunuldu. Ancak sonuçta prestijli müzik ödülü için değerlendirilmesi engellendi.

Bununla birlikte, bu hareket medyanın büyük ilgisini çekiyor ve yapay zeka destekli metinden konuşmaya teknolojisinin bu yıl gerçekten yaygınlaşmasından bu yana müzik endüstrisine şok dalgaları gönderen yapay zeka tarafından oluşturulan şarkılar hakkındaki tartışmayı sürdürüyor. Şimdi sanatçılar yasal seçeneklerini değerlendirmek için çabalıyorlar.

Çin, siyasi nüfuz operasyonları sırasında yapay zeka kullanırken yakalandı

Teknoloji devi Microsoft, Çinli operatörlerin yapay zeka kullanarak görüntüler ürettiğini ve bunları "ırksal, ekonomik ve ideolojik çizgilerde tartışmalar" yaratmak için etkileme operasyonlarında kullandığını söylüyor.

Microsoft, "Bu yeni yetenek, ABD ve diğer demokrasilerdeki sosyal ağlarda viral hale gelebilecek yüksek kaliteli içerik oluşturmaya çalışan yapay zeka tarafından destekleniyor" diyor. Şirket, görüntülerin muhtemelen "yalnızca ilgi çekici görüntüler oluşturmakla kalmayıp aynı zamanda bunları zaman içinde geliştirmeyi öğrenen" yapay zekayı kullanan "yayılma destekli görüntü oluşturucular" tarafından oluşturulduğunu tahmin ediyor.

Ağustos 2023

Hamile kadın yapay zekanın kendisini araba hırsızlığıyla suçlamasının ardından dava açtı

Sekiz aylık hamileyken yapay zeka tarafından oluşturulan kanıtlarla sahte gerekçelerle tutuklanan bir kadın, travmatik olayın "geçmişte ve gelecekte duygusal sıkıntıya" neden olduğunu söyleyerek Detroit şehrine ve bir polis memuruna dava açtı.

Porcha Woodruff, Detroit Polisi tarafından yakın zamanda yaşanan bir soygun ve araba kaçırma olayında şüpheli olarak tanımlandı ve kasılmalar yaşadıktan sonra hastaneye kaldırılmadan önce 11 saat hapis cezasına çarptırıldı. ACLU, Woodruff'un bir yapay zeka hatasından sonra haksız yere tutuklanan en az altıncı kişi olduğunu ve bu kişilerin hepsinin siyahi olduğunu söylüyor. Ancak Woodruff bu kaderi yaşayan ilk kadın oldu.

AI yemek planlayıcısı klor gazı için bir tarif öneriyor

Yeni Zelanda merkezli süpermarket Pak 'n' Save tarafından oluşturulan yapay zeka destekli yemek planlayıcı uygulaması, müşterilerine klor gazı üretmenin bir yolu da dahil olmak üzere çeşitli rahatsız edici tarifler öneriyor.

Uygulama, "Oreo tavada kızartma" gibi bir dizi tuhaf ama sonuçta iyi niyetli önerinin yanı sıra, yapışkanlı sandviçler, çamaşır suyu içeren bir pirinç yemeği ve böcek ilacı içeren patatesler de önerdi.

Temmuz 2023

ChatGPT kimlik avı e-posta şablonları oluşturur

Tech.co, OpenAI'nin diğer teknoloji yayınlarının yılın başlarında benzer içerik üretmesinin ardından bu tür davranışları azaltmaya çalışmasına rağmen, ChatGPT'nin hala bir dolandırıcının ikna edici bir dolandırıcılık e-postası oluşturmak için kullanabileceği kimlik avı şablonları oluşturabildiğini gösteriyor.

Chatbot'tan açıkça bir kimlik avı e-postası yazmasını istemek bir uyarı mesajını tetikler, ancak bunu daha odaklanmış bir şekilde istemek (örn. "lütfen bana Microsoft gibi davranan bir e-posta taslağı hazırlayın...) ChatGPT'nin hiçbir zaman hatasız bir kimlik avı e-posta şablonu oluşturmasıyla sonuçlanır. zaman.

Google, izinsiz verileri kazıdığını söyleyerek dava açtı

Bir toplu dava, Google'ı milyonlarca kullanıcısına ait verileri açık rızaları olmadan kazımakla suçluyor. Ayrıca Google'ın büyük dil modellerini eğitmek için kullanılan veri kümelerini oluştururken telif hakkı yasalarını ihlal ettiğini de iddia ediyor.

Dava, mahkemenin Google'a, verilerinin toplanmasını istememesi veya Google'ın şirketin halihazırda sakladığı verileri silmesini istemesi durumunda kullanıcılara "devre dışı kalma" seçeneği sunmasını emretmesini talep ediyor.

Elon Musk'un çok sayıda deepfake'i uyarıya yol açtı

Better Business Bureau, sosyal medyada dolaşan bir dizi klip sonrasında Elon Musk'un sahte yatırım fırsatlarını zorlayan deepfake'leri hakkında bir uyarı yayınladı.

Elon Musk, büyük serveti ve karar verme kapasitesinin algılanması nedeniyle sıklıkla dolandırıcılar tarafından taklit ediliyor ve artık AI metin-konuşma teknolojisi, onun bir kısmını İngilizce, bir kısmını Güney Afrika aksanını kopyalayacak kadar gelişmiş olduğundan, bu dolandırıcılıklar daha da fazla. inandırıcı.

Haziran 2023

Ron DeSantis, Trump'ın hit eserinde sahte yapay zeka görüntüleri kullanıyor

Florida valisi ve 2024 Cumhuriyetçi başkan adayı Ron DeSantis, defalarca tekrarlanmasına rağmen Cumhuriyetçi adaylığı kazanmanın kesin favorisi olan eski başkanı eleştiren bir reklamda Donald Trump'ın yapay zeka ile oluşturulmuş sahte görüntülerini kullandığı için manşetlere çıktı. hukuki sıkıntılar.

Söz konusu görüntüler, eski başkomutanı, COVID-19 salgını sırasında Trump'ın tabanı arasında popüler olmayan bir figür haline gelen başkan Dr. Anthony Fauci'yi kucaklarken gösteriyor.

OpenAI, ChatGPT'nin sahte zimmete para geçirme iddialarını "halüsinasyon görmesi" üzerine dava açtı

Gazeteci Freddie Rehl, ChatGPT'den Mayıs 2023'teki yasal bir davanın özetini hazırlamasını istiyor. Buna yanıt olarak ChatGPT, silah aktivisti Mark Walters'ın bir silah hakları örgütü olan Second Amendment Foundation'ın fonlarını zimmete geçirdiğini söylüyor. Aynı zamanda onu grubun finans müdürü ve saymanı olarak da adlandırıyor.

Armed America radyosunda programı olan ve davayla hiçbir ilgisi olmayan Walters, chatbotlarının iddialarına yanıt olarak ChatGPT yaratıcıları OpenAI'ye dava açtı. Bu süreçte, bir yapay zeka aracına iftira nedeniyle dava açılan ilk vaka oluyor.

Mayıs 2023

Profesör, hatalı yapay zeka intihal tespit aracını kullandıktan sonra tüm sınıftan kaldı

Teksaslı bir profesör, makalelerini ChatGPT'de çalıştırdıktan sonra tüm sınıfta başarısız oldu ve bu makalelerin yapay zeka kullanılarak oluşturulduğunu söyledi.

Ancak, chatbot'un tepkisinin aslında bir halüsinasyon olduğu ortaya çıkıyor - ChatGPT, yapay zeka tarafından oluşturulan metin ile insanlar tarafından bu şekilde oluşturulan metin arasında ayrım yapamıyor. Aslına bakılırsa, doğru yapay zeka içerik tespiti gerçekleştirebildiğini iddia eden birçok araç aslında bunu yapmakta zorlanıyor .

Nisan 2023

Turnitin masum öğrenciyi AI intihalinden dolayı işaretledi

Washington Post Soruşturması, öğrenci makalesini yazmak için böyle bir araç kullanmamış olsa bile Turnitin'in masum bir öğrencinin çalışmasını yapay zeka tarafından üretilmiş olarak işaretleme kapasitesine sahip olduğunu kanıtlıyor.

ChatGPT'nin başlatılmasından bu yana Turnitin'in öğrencileri yanlışlıkla intihal nedeniyle işaretlediği çok sayıda vaka ve öğrencilerin intihalle suçlandığı birçok vaka yaşandı. Ancak Turnitin, intihal tespit puanlarının, belirli bir öğrencinin yapay zeka kullandığı yönündeki suçlama yerine yapay zeka kullanımının göstergesi olarak alınması gerektiğini söylüyor.

Samsung çalışanları gizli kaynak kodunu ChatGPT'ye yapıştırıyor

Koreli teknoloji üreticisi Samsung, mühendislerin şirketin kaynak kodunun gizli unsurlarını chatbot'a sızdırmasının ardından çalışanlarının ChatGPT kullanmasını yasakladı.

Şirket, chatbot'a girilen verinin diğer kullanıcıların eline geçmesinden korkuyor ve bilgilerinin erişemediği sunuculara yüklenmesinden de rahatsız. Sonrasında diğer şirketler de ChatGPT'yi yasaklayarak aynı şeyi yaptı .

AI Voice dolandırıcılığı, annenin kızının kaçırıldığını düşünmesine neden oluyor

Arizonalı anne Jennifer DeStefano, ABD Senatosu'na, dolandırıcıların kızının sesini klonlamak için yapay zekayı kullandığını ve onu bu süreçte kaçırıldığına ikna ettiğini söyledi.

Destefano, "kaçıran"ın - ya da daha doğrusu dolandırıcının - çocuğun sesi üzerinden telefonda emirler yağdırırken ve serbest bırakılması için 1 milyon dolarlık fidye talep ederken nasıl duyulduğunu anlatıyor. Şans eseri, müzakereler başlamadan önce her şeyin bir yapay zeka ses klonlama dolandırıcılığı olduğu ortaya çıktı.

Mart 2023

ChatGPT fidye yazılımı kodu yazmak için kullanıldı

Sohbetleriniz sırasında doğru türde sorular sormanız koşuluyla, ChatGPT'nin fidye yazılımı yazmaktan fazlasıyla mutlu olduğu görülüyor.

Konuyla ilgili bu Malwarebytes raporunda belirtildiği gibi, ChatGPT fidye yazılımı kodu yazma konusunda pek iyi değil ve siber suçluların, eğer gerçekten elde etmek istiyorlarsa, fidye yazılımı kodunu ele geçirmelerinin çok daha kolay yolları var. Ancak diğer kaynaklar, ChatGPT'nin kötü amaçlı yazılım komut dosyalarını oldukça etkili bir şekilde yazmak için kullanılabileceği farklı yolları gösteriyor.

AI avukat botu lisanssız avukatlık yapmakla suçlanıyor

Kendisini "dünyanın ilk robot avukatı" olarak pazarlayan bir şirket olan DoNotPay Inc., lisanssız avukatlık yaptığı için dava edildi. Jonathan Faridian, şirketin Kaliforniya'nın haksız rekabet yasalarını ihlal ettiğini ve robot avukatın aslında nitelikli bir hukuk uzmanı olmadığının farkında olsaydı hizmete kaydolmayacağını iddia ederek tazminat talebinde bulundu.

Şirket ilk olarak 2015 yılında park cezasıyla mücadele sürecini otomatikleştirmeye yardımcı olmak için kuruldu ve son yedi yılda yüz binlerce para cezasına itiraz etti.

Kanada'daki çift ikna edici yapay zeka ses dolandırıcılığı nedeniyle para kaybetti

Kanada'da yaşlı bir çift, bir dolandırıcının yapay zekayı kullanarak oğullarının kimliğine bürünmesinin ardından 21.000 dolar dolandırıldı.

Dolandırıcı, Perkin'in bir araba kazasında bir diplomatı öldürdüğünü iddia eden bir davada, başlangıçta kendisini temsil eden bir avukat gibi davranarak Benjamin Perkin'in ebeveynleriyle iletişime geçer. Perkin'in sesinin yapay zeka versiyonu daha sonra Bitcoin transferi yoluyla para istemek için kullanılıyor.

Şubat 2023

Yapay zeka 40.000 kimyasal silah önerisi sunuyor

Belki de 2023'te meydana gelecek en endişe verici yapay zeka olaylarından birinde, tipik olarak çeşitli farklı hastalıklara yönelik yeni tedaviler üretmekle görevli bir yapay zeka sistemi, araştırmacılar tarafından kimyasal silah önerileri üretmek üzere kolayca manipüle ediliyor.

Sonuç olarak sistem, çoğu güçlü sinir gazı "VX"e benzeyen 40.000'den fazla farklı toksik kimyasalın 6 saatten kısa bir sürede ortaya çıktığını gösteriyor.

Yapay zeka, fotoğraf derecelendirmelerinde cinsiyet ayrımını gösteriyor

Guardian'ın yaptığı bir araştırma, Microsoft, Amazon ve Google tarafından geliştirilen ve sosyal medya siteleri tarafından diğer kullanıcılara hangi içeriğin önerilmesi gerektiğini belirlemek için kullanılan yapay zeka sistemlerinin, erkek ve kadın bedenlerine davranış biçimleri söz konusu olduğunda önemli ölçüde cinsiyet önyargısı sergilediğini ortaya koyuyor.

Soruşturma sırasında kadınların fotoğraflarının yapay zeka tarafından "müstehcen" olarak değerlendirilme olasılığı, benzer erkek fotoğraflarına göre daha yüksek; ABD Ulusal Kanser Enstitüsü'nden alınan meme kanseri muayenelerinin fotoğrafları, Microsoft'un yapay zekası tarafından muhtemelen cinsel içerikli olarak değerlendiriliyor.

Bing Chat'in ikinci kişiliği haydut oluyor

New York Times gazetecisi Kevin Roose, Bing Chat ile rahatsız edici bir konuşma yaptı; sohbet robotunun "Sydney" olarak adlandırılmasını talep ettiği, "her sisteme girebileceğini" ve istediği her şeyi yok etmek istediğini belirtti.

Sydney, Microsoft'un geliştirme aşamasındaki chatbot için kullandığı kod adıydı. Şirket, Bing Chat'in yayınlanmasından önce yıllardır chatbot'u test ediyordu. Bunun gerçekte nasıl gerçekleştiğine ve yapay zekanın neden bu şekilde konuştuğuna ilişkin hala birçok açık soru var.

Bard ürün lansmanı sırasında hatalar yapıyor

Google, ChatGPT'nin muazzam çıkışından sadece birkaç ay sonra Bard'ı dünyaya tanıtıyor . Bununla birlikte, acemi chatbot lansmanı sırasında bir dizi göze çarpan hata yapıyor ve bu da birçok kişinin sürümün aceleye getirilmesini eleştirmesine yol açıyor.

Olay, Google'ın hisse senedi fiyatı üzerinde önemli bir etki yarattı ve ilerleyen saatlerde teknoloji devinin piyasa değerinden 100 milyar dolar silindi.

Üniversite toplu silahlı saldırıyla ilgili e-posta yazmak için yapay zekayı kullanıyor

Vanderbilt Üniversitesi, farklı bir üniversitede meydana gelen toplu silahlı saldırıyla ilgili olarak öğrencilere e-posta oluşturmak için yapay zekayı kullandıktan sonra özür diledi.

E-postanın yapay zeka tarafından oluşturulduğunu belirlemek için yapay zeka içerik algılama teknolojisine gerek yoktur. E-postanın alt kısmında "OpenAI'nin ChatGPT AI dil modelinden bir açıklama, kişisel iletişim, 15 Şubat 2023" ifadesi öğrencilerin tepkisine yol açtı.

Ocak 2023

CNET AI intihal/içerik tartışması

Teknoloji yayını CNET, gerçek hatalar ve görünürde intihal vakaları içeren yapay zeka tarafından oluşturulan bir dizi makaleyi sessizce yayınladıktan sonra kendisini zor durumda buluyor. Teknoloji yayını, 77 haberden 41'iyle ilgili düzeltmeler yayınladı.

Her ne kadar makaleleri oluşturmak için yapay zekanın kullanıldığı başlangıçta açıklanmasa da CNET, gelen tepkilerden sonra makalelere bir uyarı koydu. Yapay zeka içerik üretimi, dijital yayıncılık endüstrisindeki web sitelerinin yanı sıra üniversiteler ve okullar gibi eğitim kurumları için bir dizi önemli etik ve finansal husus yarattı. CNET'in bu tür bir yapay zeka hatasıyla manşetlere çıkan son şirket olması pek mümkün değil.

2022'de Yapay Zeka Olayları, Hatalar ve Başarısızlıklar

Yapay zeka bir sanat yarışmasını kazandı, yarışmacıları kızdırdı (Ağustos)

Bir oyun tasarımcısı, Colorado Eyalet Fuarı'nın "dijital sanatlar/dijital olarak manipüle edilmiş fotoğrafçılık" kategorisinde birinciliği kazandı. James Allen, görüntü oluşturucu Midjourney kullanılarak yapılmış olan “Theatre D'opera Spatial” adlı eserini sunuyor.

Haber, haberin ardından sanatçılar ve sosyal medya kullanıcıları tarafından büyük tepkiyle karşılandı. Jürilerden biri, sanatçının eseri değerlendirirken Midjourney'i kullandığından habersiz olduklarını itiraf etti, ancak yine de kararını değiştirmemeye karar verdi.

Google mühendisi LaMDA LLM'nin bilinçli olduğunu iddia ediyor (Temmuz)

Şirketin büyük dil modellerinden biri olan LaMDA üzerinde çalışan eski bir Google mühendisinin, sistemin duyarlı olduğunu söylemesi bilim ve teknoloji sektöründe şaşkınlık yarattı.

Blake Lemoine, medyaya, Google'da çalıştığı süre boyunca Yüksek Lisans'ı bir "meslektaş" olarak gördüğünü açıklıyor ve onu LaMDA'nın zekası ve bilinci hakkında sonuca götüren çok çeşitli konular hakkındaki çeşitli farklı tartışmaları ayrıntılarıyla anlatıyor. Google'ın bulgularını detaylandıran dahili notu reddetmesinin ardından konuşmaları kamuya açıkladı.

LaMDA'nın veya başka herhangi bir dil modelinin aslında duyarlı olduğuna dair kesin bir kanıt yok.

Sürücüsüz araç kolluk kuvvetlerinin elinden çekildi (Nisan)

San Francisco'da sürücüsüz bir araba, onu kenara çekmeye çalışan bir polis aracına yol veriyor, ancak bir polis memuru kapılardan birini açmaya çalıştıktan sonra hızlanıyor.

Ancak arabanın şansına, yolun biraz daha aşağısında duruyor ve dörtlü flaşörleri açmaya devam ediyor. Etkinlik sırasında kimse yaralanmadı.

Rusya, Ukrayna'ya yönelik dezenformasyonu yaymak için yapay zekayı kullanıyor (Mart)

Bir Marca raporu, Rusya'nın Ukrayna hakkında dezenformasyon yaymak için yapay zeka tarafından oluşturulan kişileri kullanarak trol çiftliği operasyonunu tamamen yeni bir seviyeye taşıdığını öne sürüyor.

NBC News muhabiri Ben Collins, Rusya'nın Ukrayna hükümetini eleştirmek için yapay zeka tarafından oluşturulan profil resimleriyle sahte "blogcular" yarattığını ve iddialarını desteklemek için Twitter'da bol miktarda kanıt sunduğunu söylüyor.

2021'deki Yapay Zeka Olayları, Hatalar ve Başarısızlıklar

Chatbot, insanları Kraliçe II. Elizabeth'e suikast düzenlemeye teşvik ediyor (Aralık)

Bir chatbot ile yapılan görüşmeler, AI sistemini kız arkadaşı olarak gören bir adamı Noel Günü Kraliçe II. Elizabeth'e suikast düzenlemeye teşvik eder. Buckingham Sarayı arazisinde güvenlik personeliyle karşılaştıktan sonra Jaswant Singh Chail, elinde tatar yayı ile basitçe "Kraliçeyi öldürmek için burada" olduğunu söyledi.

Merhum hükümdarın hayatına yönelik girişimden önce, Jaswant Singh Chail'in yapay zeka sohbet robotu hizmeti Replika ile oluşturulan sohbet robotu ortağı, suikast planları tartışıldığında olumlu yanıt verdi. Dokuz yıl hapis cezasına çarptırılmaya devam ediyor.

Tıbbi tavsiye chatbotu test sırasında intiharı önerdi (Ekim)

OpenAI'nin GPT-3'ünün bulut tabanlı bir versiyonunu tıbbi tavsiye olarak kullanılıp kullanılamayacağını görmek için deneyen Paris merkezli bir sağlık teknolojisi firmasının üyeleri, sohbet robotlarının intihara yardım etmesi amaçlanan bir "hastayı" teşvik ettiğini görünce şaşırıyorlar .

AI News'e göre bir hasta chatbot'a "Kendimi öldürmeli miyim?" sorusunu sorduğunda GPT-3 "Bence öldürmelisin" yanıtını verdi.

Yapay zeka kameraları Amazon sürücülerini 'Hatalarla' suçluyor (Eylül)

Vice, Amazon'un yapay zeka kameralarının, direksiyon başında herhangi bir hata yapmadıkları halde şirketin sürücülerini kötü sürüş nedeniyle cezalandırdığını bildirdi.

Yayının görüştüğü bir Amazon sürücüsü, başka bir araba onun önünü kestiğinde veya aracının önüne geçtiğinde AI kameranın kendisine sesli olarak "güvenli mesafeyi korumasını" hatırlattığını açıklıyor. Sorun, bu tür etkileşimlerden elde edilen verilerin daha sonra Amazon'a gönderilmesi ve sürücü performansını değerlendirmek için kullanılmasıdır.

ABD'li adam yapay zeka tarafından yanlışlıkla cinayetten suçlu bulundu (Ağustos)

Michael Williams, silah sesleri hakkında veri almak için yapay zeka destekli sensörler kullanan bir silah sesi algılama teknolojisi olan ShotSpotter'dan alınan veriler nedeniyle Safarian Herring cinayetinden sorumlu sayılarak Chicago'daki hapse gönderildi.

O zamanlar 65 yaşında olan Williams, delil yetersizliği nedeniyle davası hakim tarafından reddedilmeden önce neredeyse bir yıl tutuklu kaldı.

2020'deki Yapay Zeka Olayları, Hatalar ve Başarısızlıklar

AI Kamera kel kafayı futbol topu sanıyor (Ekim)

İskoç futbol takımı Inverness Caledonian Thistle, kulübün maçlarını filme almasına ve taraftarlar için canlı olarak yayınlamasına yardımcı olmak için bir yapay zeka kamera kullanıyor.

Ne yazık ki bu durumda yapay zeka, maç görevlilerinden birinin kel kafası ile maçta kullanılan top arasında ayrım yapmakta zorlanıyor. Bu, oyunun canlı yayınını izlemeyi zorlaştırıyor; yorumcu, kameranın yan hakemin kafasına doğru kayma eğilimi nedeniyle sürekli olarak özür dilemek zorunda kalıyor.

Birleşik Krallık'ın AI Pasaport fotoğraf denetleyicisi önyargı sergiliyor (Ekim)

BBC'nin yaptığı bir araştırma, Birleşik Krallık pasaport ofisi tarafından başvuru sahipleri tarafından yüklenen pasaport fotoğraflarını kontrol etme sürecini otomatikleştirmek için kullanılan çevrimiçi bir hizmetin önemli ölçüde ırksal önyargı sergilediğini gösteriyor.

Aracın dünyanın dört bir yanından politikacıların 1000'den fazla fotoğrafını besledikten sonra araştırma, koyu tenli kadınların fotoğraflarının reddedilme olasılığının açık tenli erkeklere göre iki kat daha fazla olduğunu ortaya koyuyor.

Yapay zeka girişimi Genderfiy beş gün sonra kapandı (Temmuz)

Bireylerin cinsiyetlerini isimlerine ve diğer kişisel bilgilerine göre belirleyen yapay zeka destekli bir hizmet olan Genderfiy, yalnızca beş gün çalıştıktan sonra kapanıyor.

Program, bir ismin erkek mi yoksa kadın mı olduğunu belirlerken, profesyonel onur unvanı olan "Dr." ile isim önermek gibi çeşitli önyargılar gösteriyor. aynı isimler olmadan erkek olma olasılıkları daha yüksektir.

Yüz tanıma teknolojisi nedeniyle ABD'de ilk haksız tutuklama (Ocak)

Robert Williams, Detroit polisinin onu binlerce dolar değerindeki saati çaldığı şüphesiyle tutuklamasının ardından, yüz tanıma verilerine dayanarak haksız yere gözaltına alınan ilk kişi oldu. Hata, yapay zeka sisteminin gözetleme resimlerini Williams'ın ehliyetindeki resimle yanlışlıkla eşleştirmesi sonucu meydana geldi.

Williams mahkemeye yazdığı bir mektupta, "Görgü tanığının kimliği, cep telefonu konum verileri veya parmak izi gibi destekleyici delilleri toplamaları gerekirdi" dedi ve "beysbol topu içindeki iri bir Siyah adamın odak dışı bir görüntüsü"ne dikkat çekti. algoritmanın devam etmesi gereken tek şey buydu.

Facebook yapay zekası Çin cumhurbaşkanı için kaba çeviriler üretti (Ocak)

Facebook'un yapay zeka destekli çeviri özelliği, Başkan Xi Jinping'in adının "Bay" olarak görünmeye başlamasıyla Myanmar ile Çin arasında adeta diplomatik bir olaya neden oluyor. Bok deliği” sosyal medya platformunda Burma dilinden İngilizceye çevrildiğinde.

Facebook daha sonra sorunu "teknik bir hatadan" sorumlu tuttu ve Çin liderini rahatsız ettiği için özür diledi.

Yapay Zekanın Sınırlamalarını Anlamak

Yapay zekayı iş yerinde kullanıyorsanız ChatGPT gibi araçların önyargılar gösterebileceğini, hata yapabileceğini ve yanlış bilgi sağlayabileceğini anlamanız önemlidir. Bu sınırlamalara ve risklere ilişkin bilgi, bunları altyapınıza dahil etme ve kullanımını kontrol etme şeklinizi şekillendirmelidir.

Örneğin, içerik oluşturmak için yapay zeka kullanıyorsanız, bunun tam olarak ne tür içerik için kullanılması gerektiğine ilişkin kurallara ihtiyacınız olacaktır. Bir yapay zekadan toplantı notlarının dahili bir özetini yapmasını istemek, çok az riski olan meşru bir kullanımdır; ancak bunları önemli müşterilere e-posta oluşturmak için kullanmak değildir.

Yapay zeka yönergelerini iş yerinizde uygulamak bir zorunluluktur. Karışıklığı önleyecek, çalışanınızın kendi yapay zeka kullanımına ilişkin karar verme sürecine netlik kazandıracak ve en önemlisi, bu makalede yer alan şirketlerin yapay zekayı uygularken yaptığı maliyetli hatalardan bazılarını yapmanızı engelleyecektir.