1. 잘못된 정보를 생성

AI가 부정확한 정보를 만들어내거나,

실제 데이터를 왜곡하여 제공

2. 문맥이나 상황에 맞지 않는 응답

비현실적이거나 부적절한 답변을 생성하여

사용자를 혼란스럽게 함

3. 확신에 찬 잘못된 정보

잘못된 정보를 마치 정확한 것처럼 확신에 차서 제공

데이터 편향

편향된 데이터로 학습을 할 때 발생하는 문제

예를 들어, AI가 특정 관점이나 정보만을 학습하면

잘못된 결론을 도출

모델의 예측 불확실성

모델이 새로운 상황에서 어떻게 행동할지 불확실할 때 발생

AI가 학습하지 않은 정보를 질문받았을 때 특히 두드러짐

복잡한 문제 처리

모델이 복잡한 문제를 처리하는 과정에서 발생하는 오차

AI가 복잡한 연산을 수행하거나

다수의 변수를 고려해야 할 때 자주 발생

다양한 출처에서 데이터를 수집하여

데이터 편향 줄이기

다양한 데이터 출처를 사용해

학습 데이터의 편향을 줄이는 것이 중요!

여러 모델을 조합하여 예측 정확도를 높이기

단일 모델보다는 여러 모델을 사용해

서로의 약점을 보완하도록 하기!

모델의 출력을 지속적으로 평가하고 오류 분석하기

모델이 생성한 출력을 지속적으로 모니터링하고,

오류를 분석해 개선하는 과정이 필요!

사용자에게 모델의 한계와 잠재적 오류를 알리기

사용자에게 AI 모델의 한계와 잠재적 오류를 미리 알려

신뢰성을 높이는 것이 중요!