AI 허위정보 교정 도구, 마이크로소프트의 새로운 시도에 전문가들은 신중한 접근을 권장

인공지능(AI)의 발전은 현대 기술이 나아가는 방향에 큰 영향을 미치고 있습니다. 마이크로소프트가 최근 발표한 새로운 도구 'Correction'은 AI가 생성한 텍스트 중 사실과 다른 부분을 자동으로 수정하는 기능을 제공한다고 합니다. 이러한 기술의 진보는 특히 의료와 같은 분야에서 정확성이 생명인 응용 프로그램 개발자들에게 매우 중요할 수 있습니다.

현대적인 오피스 환경에서 AI 데이터 분석을 보여주는 컴퓨터 화면들

새로운 도구 'Correction'의 기능과 의의

마이크로소프트의 'Correction'은 AI가 생성한 텍스트 중 잘못된 정보를 자동으로 교정하는 서비스입니다. 예를 들어, 회사의 분기별 수익 통화 요약에서 잘못된 인용을 지적하고, 정확한 정보(예: 전사본)와 비교하여 사실 검증을 수행합니다. 이 서비스는 마이크로소프트의 Azure AI Content Safety API의 일부로 제공되며, 메타의 Llama와 OpenAI의 GPT-4 등 다양한 텍스트 생성 AI 모델과 함께 사용할 수 있습니다.

AI 교정 도구의 인터페이스

전문가들의 의견: 현실적인 한계와 우려

하지만 전문가들은 이러한 '교정' 접근 방식이 AI의 근본적인 문제, 즉 '환각' 현상의 근본 원인을 해결하지 못한다고 지적합니다. 워싱턴 대학교의 박사 후보 오스 키스는 "AI에서 환각을 제거하는 것은 물에서 수소를 제거하는 것과 같다"며 기술적 한계를 비유적으로 설명했습니다. AI는 실제로 '알고 있는' 것이 아니라 단지 단어의 패턴을 인식하고 훈련 데이터에 기반한 다음 단어를 예측하는 통계 시스템입니다.

구글의 유사 기능과 비교

구글도 이 여름에 Vertex AI, 자사의 AI 개발 플랫폼에서 고객이 제3자 제공업체의 데이터, 자체 데이터셋 또는 Google 검색을 사용하여 모델을 '바탕'으로 설정할 수 있는 비슷한 기능을 도입했습니다. 이는 AI의 신뢰성을 높이는 또 다른 접근 방식을 보여주며, 기업 간의 경쟁도 치열해지고 있습니다.

AI 기술에 관한 테크 프레젠테이션을 진행하는 미래적인 회의실

 

마이크로소프트의 'Correction' 기능은 AI가 생성한 내용의 신뢰성과 정확성을 높이는 데 도움을 줄 수 있습니다. 하지만 이러한 기능이 완벽한 해결책은 아니며, 실제 사용 과정에서 새로운 문제를 발생시킬 수도 있습니다. 예를 들어, 의료 분야에서 AI를 사용하여 질병을 진단할 때, 이러한 도구가 잘못된 정보를 교정하여 환자의 신뢰를 높일 수 있지만, 동시에 예상치 못한 오류를 유발할 위험도 있습니다.

 

 

https://techcrunch.com/2024/09/24/microsoft-claims-its-new-tool-can-correct-ai-hallucinations-but-experts-caution-it-has-shortcomings/

Microsoft claims its new tool can correct AI hallucinations, but experts advise caution | TechCrunch