최근 Microsoft는 AI 환각 문제를 해결할 수 있는 새로운 도구 **'Correction'**을 공개했습니다. AI가 종종 사실과 다른 내용을 생성하는 이른바 'AI 환각(Hallucination)' 문제는 AI 기술의 본질적인 한계로, 이를 해결하겠다는 Microsoft의 발표는 많은 이들의 관심을 끌고 있습니다. 하지만, AI 연구자들과 전문가들은 신중한 접근이 필요하다는 의견을 제시하고 있습니다.
AI 환각 문제란 무엇인가?
'AI 환각'은 AI 모델이 실제로 존재하지 않는 정보나 사실을 생성하는 현상을 말합니다. 생성형 AI 모델은 많은 데이터를 기반으로 예측을 하여 답변을 생성하지만, 이 과정에서 정보가 왜곡되거나 완전히 잘못된 사실을 제시하는 경우가 발생할 수 있습니다. 예를 들어, AI가 잘못된 문맥에서 사실을 조합하거나 새로운 정보를 만들어내는 현상이 바로 환각입니다.
이 환각 문제는 특히 의료, 법률, 금융과 같은 분야에서 매우 위험할 수 있습니다. 잘못된 정보가 사실로 인식되면 심각한 문제를 야기할 수 있기 때문이죠. 이에 따라 AI의 신뢰성을 높이고자 하는 노력이 지속되고 있으며, Microsoft의 'Correction' 도구는 이러한 문제를 해결하기 위한 새로운 시도 중 하나입니다.
Microsoft의 'Correction' 도구란?
**'Correction'**은 AI가 생성한 텍스트에서 오류를 탐지하고 이를 신뢰할 수 있는 출처와 비교하여 수정하는 역할을 합니다. Microsoft는 이 도구가 Azure AI Content Safety API의 일부로 제공되며, 다양한 AI 모델에서 사용할 수 있다고 밝혔습니다. 대표적으로 GPT-4와 Meta의 Llama 모델과 같은 생성형 AI에서도 이 도구를 적용할 수 있습니다.
Correction 도구는 AI가 생성한 텍스트에서 잘못된 인용이나 사실을 자동으로 플래그 처리하고, 사용자가 지정한 신뢰할 수 있는 문서나 데이터와 대조하여 오류를 수정합니다. 예를 들어, 기업의 분기별 실적 발표 내용을 AI가 생성했을 때, 잘못된 수치나 인용이 있을 경우 이 도구가 해당 부분을 감지하고 수정할 수 있도록 돕는 것입니다.
Google의 유사한 시도와 비교
Microsoft의 'Correction' 도구와 유사하게, Google 역시 지난여름에 Vertex AI 플랫폼에서 비슷한 기능을 도입했습니다. Google은 자사의 생성형 AI 모델이 외부 데이터나 자체 데이터셋을 사용하여 정확한 정보를 바탕으로 작동하도록 설계한 기능을 제공했습니다. 이를 통해 AI 모델이 특정 정보에 더욱 기반을 두고 작동하게끔 만드는 것이죠.
하지만, 전문가들은 이러한 시도가 환각 문제의 근본적인 해결책이 되지 못할 수도 있다고 경고합니다. AI 연구자 Os Keyes는 생성형 AI 모델이 본질적으로 확률적 모델이기 때문에 환각을 완전히 제거하는 것은 매우 어려운 일이라고 지적했습니다. AI는 실제로 '알고' 있는 것이 아니라, 훈련 데이터에 기반한 패턴을 예측할 뿐이기 때문에, 항상 어느 정도의 오류가 발생할 수밖에 없다는 것입니다.
Microsoft의 접근 방식의 한계
Microsoft의 'Correction'은 두 가지 메타 모델을 사용하여 작동합니다. 첫 번째는 분류기 모델로, AI가 생성한 텍스트에서 오류를 탐지하고, 두 번째 언어 모델은 탐지된 오류를 바탕으로 이를 수정합니다. 이를 통해 AI가 생성한 텍스트의 정확성과 신뢰성을 높이는 것이 목표입니다.
그러나, Mike Cook을 비롯한 AI 전문가들은 이 도구가 오히려 새로운 문제를 야기할 수 있다고 주장합니다. 예를 들어, 이 도구가 AI 환각을 줄여주긴 하지만, 동시에 사용자들이 AI가 완전히 정확하다고 착각하게 만들 수 있다는 것입니다. 이는 사용자가 AI의 결과를 더욱 신뢰하게끔 유도할 수 있어, 아직 완전하지 않은 기술에 대한 잘못된 신뢰를 심어줄 가능성이 있습니다.
비즈니스 관점에서의 AI 환각 문제
Correction은 기본적으로 무료로 제공되지만, 매달 5,000개의 텍스트 레코드까지만 무료이며, 그 이후에는 1,000개당 38센트의 요금이 부과됩니다. Microsoft는 이를 통해 AI 관련 수익을 창출하려 하고 있으며, 고객과 주주들에게 자사의 AI 기술이 가치 있음을 증명하려는 시도를 하고 있습니다.
하지만, AI 환각 문제는 Microsoft가 극복해야 할 큰 과제 중 하나입니다. 실제로 Microsoft의 대표적인 AI 플랫폼인 Microsoft 365 Copilot을 도입한 일부 초기 사용자들은 AI 성능 문제와 비용 부담으로 인해 배포를 중단했다는 소식이 전해졌습니다. 이러한 문제들은 여전히 AI 기술이 상용화되기에는 갈 길이 멀다는 것을 보여줍니다.
결론: AI의 미래와 신중한 접근
AI 기술이 점점 발전하고 있지만, 환각 문제는 여전히 중요한 이슈로 남아있습니다. Microsoft의 'Correction' 도구는 AI의 신뢰성과 정확성을 높이기 위한 중요한 첫 걸음일 수 있지만, 이는 여전히 완전한 해결책은 아닙니다. 전문가들은 이러한 기술을 사용할 때 신중함이 필요하며, AI에 지나친 신뢰를 갖기보다는 그 한계를 이해하고 보완해 나가는 것이 중요하다고 말합니다.
AI 기술의 발전은 빠르고, 그 가능성도 무궁무진하지만, 여전히 해결해야 할 과제가 많습니다. Microsoft의 시도는 이러한 도전 속에서 중요한 역할을 할 것으로 보입니다.
'테크로만' 카테고리의 다른 글
| 북한 해커 그룹, 크롬 제로데이 취약점을 이용한 암호화폐 탈취 공격 (3) | 2024.10.02 |
|---|---|
| 마이크로소프트의 Inflection 인수와 CMA의 합병 판정 리뷰 (5) | 2024.10.02 |
| Google, Microsoft의 클라우드 라이선스 반독점 소송 (2) | 2024.10.01 |
| Fidelity의 X 가치 79% 하락: Elon Musk의 인수 이후 급격한 평가 절하 (3) | 2024.10.01 |
| Google Nest Learning Thermostat 리뷰: 여전히 스마트 온도 조절기의 왕좌를 지키다 (10) | 2024.10.01 |
