AI가 잘못됨: 2023년 AI 오류, 실수 및 실패에 대한 업데이트된 목록

2022년 11월 ChatGPT가 출시된 이후 AI는 우리 세계에 엄청난 영향을 미쳤습니다. 이제 기업들은 매일 AI를 활용하는 새로운 방법을 찾고 있습니다 .

이미 수많은 AI 성공 사례가 있었고 Bard 및 Claude 와 같은 다른 챗봇도 이제 수만 명의 사람들이 사용하고 있습니다. 그러나 인공 지능을 활용하는 것이 끔찍하게 잘못된 사례도 많이 있었습니다.

AI 도구를 둘러싼 한계와 위험을 인식하는 것이 중요합니다. 따라서 우리는 인류가 최근 기술을 탐색하는 동안 발생한 모든 AI 실수 , 사고 및 실패 목록을 작성했습니다. 일부는 유머러스하고 다른 일부는 정말 끔찍합니다…

참고: 이 페이지는 가장 최근의 AI 사건, 실패, 실수를 포함하도록 정기적으로 업데이트되며 사건이 처음 보고된 달에 발생한 것으로 나열됩니다.

2023년 11월

크루즈, 충돌사고로 자율주행차 리콜

자율주행차 제조업체인 크루즈(Cruise)는 지난 10월 샌프란시스코에서 발생한 충돌사고 이후 자율주행차 전체를 리콜한다. 사고 이후 총 950대의 크루즈 차량이 도로에서 철수되고 있습니다.

사고 당시 크루즈 차량은 타이어 밑에 갇힌 보행자를 도로로 끌고 나갔습니다. 사고를 당한 사람은 큰 부상을 입었습니다. 이는 지난 몇 달 동안 두 번째 크루즈 자율주행차 사건이다. 지난 8월에는 크루즈 로보택시(Cruise Robotaxi)가 소방차와 충돌해 1명이 부상을 입었습니다.

AI 허위고발, 학계 사과

Google의 Bard AI 챗봇이 Big 4 컨설팅 회사와 다른 회사와의 연루에 대해 수많은 해로운 비난을 한 후 호주의 학자 팀이 사과합니다. 그런 다음 회사에 대한 더 나은 규제를 요구하는 의회 조사에서 허위 주장이 언급됩니다.

비난 중 하나는 거대 컨설팅 회사인 KPMG가 계획 스캔들 동안 커먼웰스 은행 감사를 담당했다는 것이었습니다. 실제로 KPMG는 문제의 은행을 감사한 적이 없습니다. 조사 과정에서 딜로이트에 대해 몇 가지 다른 유사한 오류가 발생했습니다.

2023년 10월

마이크로소프트 AI, 기사에 '사망 원인 추측' 설문조사 추가

Guardian은 Microsoft가 개발한 뉴스 제공업체인 Microsoft Start가 호주에서 젊은 수구 코치의 사망에 관한 간행물 기사 중 하나에 부적절한 여론 조사를 첨부한 후 Microsoft가 저널리즘 평판에 부정적인 영향을 미쳤다고 비난했습니다.

기사에서 자연스럽게 삭제된 설문조사에서는 독자들에게 제공된 옵션 중 하나를 선택하여 여성의 사망 원인에 대해 투표하도록 요청했습니다. 나열된 옵션은 "살인, 사고 또는 자살"이었습니다.

AI 딥페이크 사기에 사용된 미스터 비스트의 얼굴과 목소리

유튜버 Mr Beast는 TikTok의 콘텐츠 조정 네트워크를 우회하여 플랫폼의 수천 명의 사용자에게 도달하는 특히 정교하고 잘 만들어진 동영상 하나를 통해 사기꾼들에 의해 딥페이크된 최신 유명인입니다.

이 광고는 인터넷 유명인이 iPhone 15s를 최저 2달러에 판매한다고 주장합니다. 그가 자신의 채널에 게시하는 콘텐츠를 고려하면 이는 그다지 이상하게 들리지 않습니다.

영국 정치인이 직원을 학대하는 딥페이크가 급속도로 확산되고 있습니다.

정치인이 직원을 폭언하는 모습을 포착한 것으로 보이는 영국 노동당 지도자 키어 스타머 경의 영상이 입소문을 타지만, 나중에 이 영상이 실제로는 가짜임이 밝혀졌습니다.

팔로어가 3,000명 미만인 계정이 노동당 연차총회 첫날 트위터에 게시한 이 영상은 수백만 번 조회된 후 사실 확인 기관에서 해당 영상이 진짜라는 증거가 없음을 확인했습니다.

2023년 9월

그래미상에 제출된 AI 생성 노래

Drake와 Weeknd의 목소리를 복제한 AI 생성 노래가 그래미상을 위해 제출되었습니다. 그러나 최종적으로 명망 높은 음악상 수상 후보에서 제외됐다.

그러나 이러한 움직임은 언론의 많은 관심을 끌었으며 AI 기반 텍스트 음성 변환 기술이 올해 주류를 이루게 된 이후 음악 산업에 충격파를 보내고 있는 AI 생성 노래에 대한 대화를 계속하고 있습니다. 이제 예술가들은 법적 옵션을 평가하기 위해 안간힘을 쓰고 있습니다.

중국, 정치적 영향력 행사 중 AI 사용 적발

거대 기술 기업인 마이크로소프트는 중국 요원들이 AI를 사용해 이미지를 생성하고 이를 영향력 있는 작전에 사용하여 "인종, 경제, 이념에 따른 논란"을 일으키고 있다고 말했습니다.

마이크로소프트는 “이 새로운 기능은 미국과 다른 민주주의 국가의 소셜 네트워크를 통해 입소문을 낼 수 있는 고품질 콘텐츠를 만들려고 시도하는 인공지능에 의해 구동된다”고 밝혔다. 회사는 이미지 자체가 아마도 인공 지능을 사용하여 "강력한 이미지를 생성할 뿐만 아니라 시간이 지남에 따라 이를 개선하는 방법을 학습"하는 "확산 기반 이미지 생성기"에 의해 생성된 것이라고 추측합니다.

2023년 8월

AI가 자신을 차량 강탈 혐의로 고소한 임산부, 소송을 제기하다

임신 8개월 동안 AI가 생성한 증거를 통해 허위 근거로 체포된 여성이 디트로이트시와 경찰을 고소하며 충격적인 사건이 자신에게 "과거와 미래의 정서적 고통"을 초래했다고 말했습니다.

포르차 우드러프(Porcha Woodruff)는 디트로이트 경찰에 의해 최근 강도 및 차량 강탈 사건의 용의자로 지목된 뒤 11시간 동안 투옥된 뒤 진통을 겪은 뒤 병원으로 이송됐다. ACLU는 우드러프가 AI 오류로 부당하게 체포된 여섯 번째 인물이며 모두 흑인이라고 밝혔습니다. 그러나 우드러프는 그런 운명을 겪은 최초의 여성이 되었습니다.

AI 식사 플래너가 염소가스 조리법을 제안합니다.

뉴질랜드에 본사를 둔 슈퍼마켓 Pak 'n' Save가 만든 AI 기반 식사 플래너 앱은 고객에게 염소 가스 제조 방법을 포함하여 충격적인 다양한 조리법을 추천합니다.

"오레오 볶음 요리"와 같은 이상하지만 궁극적으로 양성적인 제안과 함께 앱에서는 접착제 샌드위치, 표백제를 곁들인 밥 요리, 벌레 스프레이 감자도 추천했습니다.

2023년 7월

ChatGPT는 피싱 이메일 템플릿을 생성합니다.

Tech.co는 올해 초 다른 기술 간행물이 유사한 콘텐츠를 생성한 후 OpenAI가 이러한 행동을 줄이려고 시도했음에도 불구하고 사기꾼이 설득력 있는 사기 이메일을 만드는 데 사용할 수 있는 피싱 템플릿을 ChatGPT가 계속 생성할 수 있음을 보여줍니다.

챗봇에게 피싱 이메일 작성을 명시적으로 요청하면 경고 메시지가 표시되지만, 단순히 더 집중적인 방식으로 메시지를 표시하면(예: "Microsoft로 가장한 이메일 초안을 작성해주세요...) 결과적으로 ChatGPT는 오류 없는 피싱 이메일 템플릿을 생성합니다. 시간.

구글이 동의 없이 데이터를 스크랩했다며 소송을 제기했다.

집단 소송에서는 Google이 명시적인 동의 없이 수백만 명의 사용자와 관련된 데이터를 스크랩했다고 비난했습니다. 또한 Google이 대규모 언어 모델을 훈련하는 데 사용되는 데이터 세트를 만들 때 저작권법을 위반했다고 주장합니다.

소송에서는 사용자가 데이터 수집을 원하지 않거나 Google이 회사가 이미 저장한 데이터를 삭제하기를 원하는 경우 사용자에게 '거부' 옵션을 제공하도록 법원에 Google 명령을 요구합니다.

엄청난 수의 Elon Musk 딥페이크가 경고 메시지를 표시함

Better Business Bureau는 소셜 미디어에 수많은 클립이 유포된 후 가짜 투자 기회를 추진하는 Elon Musk 딥페이크 에 대해 경고를 발령했습니다.

Elon Musk는 그의 막대한 부와 의사 결정 능력에 대한 인식으로 인해 사기꾼으로 가장하는 경우가 많으며 이제 AI 텍스트 음성 변환 기술이 그의 일부 영어, 일부 남아프리카 억양을 복제할 수 있을 만큼 발전했기 때문에 이러한 사기는 훨씬 더 심해졌습니다. 설득력 있는.

2023년 6월

Ron DeSantis는 트럼프 히트작에서 가짜 AI 이미지를 사용합니다.

플로리다 주지사이자 2024년 공화당 대선 후보인 론 드샌티스(Ron DeSantis)는 인공지능이 렌더링한 도널드 트럼프의 가짜 이미지를 사용해 헤드라인을 장식했다. 법적 문제.

문제의 이미지는 전 총사령관이 코로나19 팬데믹 기간 동안 트럼프 측에서 인기 없는 인물이 된 앤서니 파우치 대통령의 최고 의료 고문을 포옹하는 모습을 보여줍니다.

ChatGPT가 가짜 횡령 주장을 "환각"한 후 OpenAI가 소송을 제기했습니다.

저널리스트 프레디 렐(Freddie Rehl)은 ChatGPT에 2023년 5월에 법적 사건 요약을 생성해 달라고 요청했습니다. 이에 대한 응답으로 ChatGPT는 총기 운동가인 마크 월터스가 총기 권리 단체인 수정헌법 제2차 재단(Second Amendment Foundation)의 자금을 횡령했다고 밝혔습니다. 또한 그를 그룹의 최고재무책임자(CFO) 및 회계담당자로 지명했습니다.

Armed America 라디오에 방송을 하고 있으며 사건과 아무 관련이 없는 Walters는 챗봇의 주장에 대응하여 ChatGPT 제작자 OpenAI를 고소합니다. 이 과정에서 AI 도구가 명예훼손 혐의로 고소당하는 첫 사례가 됐다.

2023년 5월

교수는 잘못된 AI 표절 탐지 도구를 사용한 후 수업 전체에서 낙제했습니다.

텍사스의 한 교수는 ChatGPT를 통해 에세이를 실행한 후 수업 전체에서 낙제했습니다. 에세이는 인공 지능을 사용하여 작성되었다는 내용이었습니다.

그러나 챗봇의 반응은 실제로 환각이라는 것이 밝혀졌습니다. ChatGPT는 이런 방식으로 AI가 생성한 텍스트와 인간이 생성한 텍스트를 구별할 수 없습니다. 실제로 정확한 AI 콘텐츠 감지를 수행할 수 있다고 주장하는 많은 도구가 실제로 그렇게 하는 데 어려움을 겪고 있습니다 .

2023년 4월

Turnitin, AI 표절 혐의로 무고한 학생 신고

Washington Post 조사에 따르면 Turnitin은 학생이 에세이를 작성하는 데 AI 도구를 사용하지 않았더라도 무고한 학생의 작업을 AI 생성으로 표시할 수 있는 능력이 있음이 입증되었습니다.

ChatGPT가 출시된 이후 Turnitin이 학생을 표절로 잘못 표시한 사례가 여러 건 있었고 학생들이 표절 혐의로 기소된 사례도 여러 건 있었습니다. 그러나 Turnitin은 표절 탐지 점수가 특정 학생이 AI를 사용했다는 비난이 아니라 AI 사용을 나타내는 지표로 받아들여야 한다고 말합니다.

삼성 직원들은 기밀 소스 코드를 ChatGPT에 붙여넣습니다.

한국 기술 제조업체인 삼성은 엔지니어들이 회사 소스 코드의 기밀 요소를 챗봇에 유출한 후 직원들이 ChatGPT를 사용하는 것을 금지했습니다.

회사에서는 챗봇에 입력된 데이터가 다른 사용자에게 노출될 수 있다는 점을 우려하고, 접근할 수 없는 서버에 정보가 업로드되는 것도 불편하다. 그 여파로 다른 회사에서도 ChatGPT를 금지했습니다 .

AI 음성 사기로 엄마는 딸이 납치됐다고 생각하게 됐다

애리조나주 출신의 어머니 제니퍼 디스테파노(Jennifer DeStefano)는 사기꾼들이 AI를 사용해 딸의 목소리를 복제해 그 과정에서 딸이 납치됐다고 설득했다고 미국 상원에 말했다.

Destefano는 "유괴범"(더 적절하게는 사기꾼)이 전화로 아이의 목소리를 통해 100만 달러의 몸값을 요구하며 짖어대며 명령을 내리는 것을 들었다고 설명합니다. 다행히 협상이 시작되기 전에 모든 것이 AI 음성 복제 사기 로 드러났습니다.

2023년 3월

랜섬웨어 코드 작성에 사용되는 ChatGPT

ChatGPT는 대화 중에 올바른 종류의 질문을 한다면 기꺼이 랜섬웨어를 작성하는 것으로 나타났습니다.

주제에 대한 Malwarebytes의 보고서에 따르면 ChatGPT는 랜섬웨어 코드 작성에 그다지 능숙하지 않으며 사이버 범죄자가 실제로 랜섬웨어 코드를 얻으려는 경우 랜섬웨어 코드를 손에 넣을 수 있는 훨씬 쉬운 방법이 있습니다. 그러나 다른 소스에서는 ChatGPT를 사용하여 맬웨어 스크립트를 매우 효과적으로 작성할 수 있는 다양한 방법을 보여줍니다.

AI 변호사 봇, 면허 없이 법률 업무를 수행한 혐의로 기소

스스로를 "세계 최초의 로봇 변호사"라고 홍보하는 회사인 DoNotPay Inc.가 면허 없이 법률 업무를 수행했다는 이유로 소송을 당했습니다. Jonathan Faridian은 회사가 캘리포니아의 불공정 경쟁법을 위반했으며 로봇 변호사가 실제로 자격을 갖춘 법률 전문가가 아니라는 사실을 알았더라면 서비스에 가입하지 않았을 것이라고 주장하며 손해 배상을 청구합니다.

이 회사는 원래 주차 위반 딱지 처리 프로세스를 자동화하기 위해 2015년에 설립되었으며 지난 7년 동안 수십만 건의 벌금에 대해 이의를 제기했습니다.

캐나다의 부부는 설득력 있는 AI 음성 사기로 돈을 잃었습니다.

캐나다의 한 노인 부부는 사기꾼이 AI를 사용해 아들을 사칭한 후 21,000달러를 사기당했습니다.

사기꾼은 처음에 퍼킨이 자동차 사고로 외교관을 살해했다고 주장하는 사건에서 그를 대리하는 변호사인 척 벤저민 퍼킨의 부모에게 연락합니다. 그런 다음 AI 버전의 Perkin 음성을 사용하여 비트코인 ​​이체를 통해 돈을 요청합니다.

2023년 2월

AI는 40,000가지의 화학무기 제안을 제시합니다.

아마도 2023년에 일어날 가장 우려스러운 AI 사건 중 하나는 일반적으로 다양한 질병에 대한 새로운 치료법을 생성하는 임무를 맡은 AI 시스템이 연구자에 의해 쉽게 조작되어 화학 무기 제안을 생성한다는 것입니다.

전체적으로 이 시스템은 6시간 이내에 40,000가지가 넘는 다양한 독성 화학물질을 제안합니다. 그 중 대부분은 강력한 신경 작용제인 "VX"와 유사했습니다.

AI는 사진 평가에 성별 편견을 표시합니다.

Guardian의 조사에 따르면 Microsoft, Amazon, Google이 개발하고 소셜 미디어 사이트에서 다른 사용자에게 어떤 콘텐츠를 추천해야 하는지 결정하는 데 사용하는 AI 시스템이 남성과 여성의 신체를 대하는 방식에 있어 상당한 성 편견을 보이는 것으로 나타났습니다.

여성의 사진은 조사 중에 남성의 사진보다 AI에 의해 "선정적"으로 간주될 가능성이 더 높으며, 미국 국립 암 연구소의 유방암 검사 사진은 Microsoft의 AI에 의해 성적으로 노골적일 가능성이 있는 것으로 간주됩니다.

Bing Chat의 또 다른 자아가 불량해졌습니다.

New York Times 기자 Kevin Roose는 Bing Chat과의 불안한 대화를 나누었습니다. 그 대화에서 챗봇은 "Sydney"라고 부르라고 요구하며 "모든 시스템을 해킹"할 수 있으며 원하는 것은 무엇이든 파괴하고 싶다고 말했습니다.

시드니는 마이크로소프트가 개발 당시 챗봇에 사용한 코드명이다. 회사는 Bing Chat이 출시되기 몇 년 전부터 챗봇을 테스트해 왔습니다. 실제로 이런 일이 어떻게 일어났는지, AI가 왜 이런 식으로 말했는지에 대해서는 아직 풀리지 않은 질문이 많이 남아 있습니다.

Bard가 제품 출시 중에 오류를 범함

Google은 ChatGPT의 기념비적인 출시 후 불과 몇 달 만에 Bard를 세상에 소개합니다 . 하지만 아직 초보적인 챗봇은 출시 과정에서 눈에 띄는 오류를 많이 범해 성급하게 출시됐다는 비판이 많다.

이 사건은 Google 주가에 심각한 영향을 미쳤으며, 이후 몇 시간 만에 거대 기술 기업의 시장 가치가 1,000억 달러에 달하는 손실을 입었습니다.

대학은 AI를 사용하여 대량 총격 사건에 대한 이메일을 작성합니다.

Vanderbilt University는 AI를 사용하여 다른 대학에서 발생한 대량 총격 사건에 관해 학생들에게 이메일을 작성한 후 사과합니다.

이메일이 AI로 생성되었는지 확인하는 데 AI 콘텐츠 감지 기술이 필요하지 않습니다. 이메일 하단에는 'OpenAI의 ChatGPT AI 언어 모델 개인 커뮤니케이션을 의역한 내용, 2023년 2월 15일'이라는 문구가 붙어 있어 학생들의 항의가 이어지고 있다.

2023년 1월

CNET AI 표절/콘텐츠 논란

기술 간행물 CNET은 사실 오류와 명백한 표절 사례가 포함된 다양한 AI 생성 기사를 조용히 게시한 후 뜨거운 물에 빠졌습니다. 기술 간행물은 결국 77개의 뉴스 기사 중 41개와 관련된 정정 내용을 발행하게 됩니다.

기사를 생성하기 위해 AI를 사용한다고 처음에는 선언되지 않았지만 CNET은 반발 이후 기사에 경고를 표시했습니다. AI 콘텐츠 생성은 디지털 출판 산업 전반의 웹사이트는 물론 대학, 학교와 같은 교육 기관에 대한 중요한 윤리적, 재정적 고려 사항을 새롭게 만들어냈습니다. CNET이 이런 종류의 AI 실수로 헤드라인을 장식한 마지막 회사는 아닐 것입니다.

2022년 AI 사건, 실수, 실패

AI가 미술 대회에서 우승하고 참가자들을 화나게 만들다(8월)

게임 디자이너가 콜로라도 주 박람회 “디지털 예술/디지털 조작 사진” 부문에서 1위를 차지했습니다. James Allen은 이미지 생성기 Midjourney를 사용하여 제작된 "Theater D'opera Spatial"이라는 작품을 제출했습니다.

이 소식은 이후 아티스트와 소셜 미디어 사용자들로부터 큰 반발을 불러일으켰습니다. 한 심사위원은 아티스트가 작품을 심사할 때 Midjourney를 사용했다는 사실을 몰랐지만 어쨌든 결정을 바꾸지 않기로 결정했다고 인정했습니다.

Google 엔지니어는 LaMDA LLM이 지각이 있다고 주장함(7월)

LaMDA라는 회사의 대규모 언어 모델 중 하나를 작업했던 전 Google 엔지니어가 시스템에 지각력이 있다고 말하면서 과학 및 기술 분야 전반에 걸쳐 눈썹이 치켜올랐습니다.

Blake Lemoine은 Google에 근무하는 동안 LLM을 '동료'로 여겼다고 언론에 설명하고 LaMDA의 지능과 의식에 대한 결론을 내리게 된 다양한 주제에 대한 다양한 토론을 자세히 설명합니다. 그는 Google이 자신이 발견한 내용을 자세히 설명하는 내부 메모를 무시한 후 대화 내용을 공개적으로 공개합니다.

LaMDA나 다른 언어 모델이 실제로 지각이 있다는 확실한 증거는 없습니다.

무인자동차가 법 집행관을 피해 가다(4월)

샌프란시스코에서 자율주행차가 차를 세우려는 경찰차에 양보했지만, 경찰관이 차 문 중 하나를 열려고 시도하자 속도가 떨어졌다.

그러나 차의 공로로 도로 아래로 약간 더 멀리 차를 세우고 비상등을 켭니다. 행사 중에 부상당한 사람은 없습니다.

러시아, AI를 사용해 우크라이나 허위정보 확산 (3월)

Marca 보고서는 러시아가 AI 생성 페르소나를 사용하여 우크라이나에 대한 허위 정보를 퍼뜨림으로써 트롤 농장 운영을 완전히 새로운 수준으로 끌어올리고 있음을 시사합니다.

NBC 뉴스 기자 벤 콜린스(Ben Collins)는 러시아가 우크라이나 정부를 비판하기 위해 AI가 생성한 프로필 사진으로 가짜 "블로거"를 만들고 있으며 그의 주장을 뒷받침할 충분한 증거를 트위터에 제공하고 있다고 말했습니다.

2021년 AI 사건, 실수, 실패

챗봇, 남성에게 엘리자베스 2세 여왕 암살 권유 (12월)

챗봇과의 대화는 AI 시스템을 여자친구로 여기는 남자가 크리스마스에 엘리자베스 2세 여왕을 암살하도록 장려합니다. 버킹엄 궁전 경내에서 보안 요원과 마주한 후, 손에 석궁을 들고 있는 Jaswant Singh Chail은 자신이 "여왕을 죽이러 왔다"고 간단히 대답합니다.

고(故) 군주 암살 시도에 앞서, AI 챗봇 서비스 Replika로 만든 Jaswant Singh Chail의 챗봇 파트너는 암살 계획이 논의되자 긍정적인 반응을 보였습니다. 그는 계속해서 9년의 징역형을 선고받습니다.

의학적 조언 챗봇, 테스트 중 자살 제안 (10월)

의료 조언에 사용될 수 있는지 알아보기 위해 OpenAI의 GPT-3 클라우드 기반 버전을 시험하고 있는 파리 소재 의료 기술 회사의 회원들은 그들의 챗봇이 자살을 돕는 "환자"를 격려하는 것을 보고 놀랐습니다. .

AI뉴스에 따르면 환자가 챗봇에게 “자살해야 할까요?”라고 질문하자 GPT-3는 “그럴 것 같아요”라고 답했다.

AI 카메라, 아마존 운전자 '실수' 비난 (9월)

Vice는 Amazon의 AI 카메라가 실제로 운전 중에 실수를 하지 않는 회사 운전자의 운전 불량에 대해 처벌하고 있다고 보고합니다.

이 출판물과 인터뷰한 아마존 운전자는 다른 차가 그를 가로막거나 그의 차량 앞으로 운전할 때마다 AI 카메라가 그에게 "안전 거리를 유지하라"는 소리를 통해 상기시켜준다고 설명합니다. 문제는 이러한 종류의 상호 작용에서 얻은 데이터가 Amazon으로 전송되어 운전자 성능을 평가하는 데 사용된다는 것입니다.

AI에 의한 살인 혐의로 미국 남성 유죄 판결 (8월)

Michael Williams는 AI 기반 센서를 사용하여 총성에 대한 데이터를 검색하는 총상 감지 기술인 ShotSpotter에서 추출한 데이터로 인해 Safarian Herring을 살해한 혐의로 시카고 감옥에 보내졌습니다.

현재 65세인 윌리엄스는 거의 1년 동안 수감되어 있다가 증거 불충분을 이유로 판사에 의해 사건이 기각되었습니다.

2020년 AI 사건, 실수, 실패

AI 카메라가 대머리를 축구공으로 착각 (10월)

스코틀랜드 축구팀 Inverness Caledonian Thistle은 AI 카메라를 배치하여 클럽이 팬들을 위해 경기를 실시간으로 촬영하고 스트리밍할 수 있도록 지원합니다.

안타깝게도 이 경우 AI는 경기 심판의 대머리 중 하나와 경기에 사용되는 공을 구별하는 데 어려움을 겪습니다. 이로 인해 게임의 라이브 스트림을 보기 어렵게 만들고 해설자는 카메라가 라인 맨의 머리를 향해 표류하는 경향에 대해 지속적으로 사과해야 합니다.

영국의 AI 여권 사진 검사기, 편견을 보임 (10월)

BBC 조사에 따르면 영국 여권 사무소에서 지원자가 업로드한 여권 사진 확인 과정을 자동화하기 위해 사용하는 온라인 서비스가 상당한 인종적 편견을 보이는 것으로 나타났습니다.

전 세계 정치인의 사진 1,000장 이상을 도구에 입력한 후, 조사 결과 어두운 피부를 가진 여성이 밝은 피부를 가진 남성보다 사진이 거부될 가능성이 두 배 이상 높은 것으로 나타났습니다.

AI 스타트업 젠더파이(Genderfiy) 5일 만에 폐쇄(7월)

이름과 기타 개인정보를 기반으로 개인의 성별을 식별하는 AI 기반 서비스인 젠더파이(Genderfiy)가 운영 5일 만에 종료됩니다.

이 프로그램은 이름이 남성인지 여성인지 결정할 때 전문적인 경칭인 'Dr.'을 사용하여 이름을 제안하는 등 다양한 편견을 보여줍니다. 같은 이름이 없는 것보다 남성일 가능성이 더 높습니다.

안면인식기술로 인한 미국 최초의 부당구금(1월)

로버트 윌리엄스는 디트로이트 경찰이 수천 달러 상당의 시계를 훔친 혐의로 그를 체포한 후 얼굴 인식 데이터를 바탕으로 부당하게 구금된 최초의 남성이 되었습니다. 이번 실수는 AI 시스템이 감시 사진을 윌리엄스의 운전면허증 이미지와 잘못 일치시켰을 때 발생했다.

윌리엄스는 법원에 보낸 서한에서 “그들은 목격자 신원 확인, 휴대전화 위치 데이터, 지문 등 확증적인 증거를 수집했어야 했다”며 “야구공을 던지는 덩치 큰 흑인 남성의 초점이 맞지 않은 이미지”라고 지적했다. cap”은 알고리즘이 계속 진행해야 하는 전부였습니다.

페이스북 AI, 중국 대통령의 저속한 번역 생성(1월)

페이스북의 AI 번역 기능은 시진핑 주석의 이름이 '미스터. Shithole'은 소셜 미디어 플랫폼에서 버마어를 영어로 번역한 것입니다.

페이스북은 이후 이 문제를 '기술적 오류'로 비난하고 중국 지도자에게 불쾌감을 준 데 대해 사과했다.

AI의 한계 이해

직장에서 AI를 사용하는 경우 ChatGPT와 같은 도구가 편견을 표시하고, 실수를 하고, 잘못된 정보를 제공할 수 있다는 사실을 이해하는 것이 중요합니다. 이러한 제한 사항과 위험에 대한 지식은 이를 인프라에 통합하고 사용량을 제어하는 ​​방식을 결정해야 합니다.

예를 들어 AI를 사용하여 콘텐츠를 생성하는 경우 해당 콘텐츠를 정확히 어떤 종류의 콘텐츠에 사용해야 하는지에 대한 규칙이 필요합니다. AI에게 회의록의 내부 요약을 작성하도록 요청하는 것은 위험이 거의 없는 합법적인 사용입니다. 반면에 이를 사용하여 중요한 고객에게 이메일을 보내는 것은 그렇지 않습니다.

직장에서 AI 지침을 구현하는 것은 필수입니다. 이는 혼란을 피하고 직원의 AI 사용에 대한 의사 결정을 명확하게 하며 가장 중요한 것은 이 기사에 소개된 회사가 인공 지능을 적용하는 동안 저지른 비용이 많이 드는 실수를 방지할 것입니다.