챗GPT 결과를 믿어도 될까요?

챗gpt

 

 

목차

1. 챗GPT의 결과를 믿어도 될까요

2. LLM

3. 확률적 추론

4. 이미지넷

5. 환각현상

6. 편향성

 

챗GPT의 결과를 믿어도 될까요?

 

LLM(Large Language Model)

방대한 양의 텍스트 데이터를 학습하여 자연스러운 문장을 생성하는 AI 기술로, 챗gpt도 이 기술을 기반으로 작동합니다. 

 

확률적 추론

챗gpt가 입력된 문장에 대해 가장 그럴듯한 답변을 추론하는 방식으로 실제로 질문의 의미를 이해하는 것은 아닙니다.

 

이미지넷(ImageNet)

대규모 이미지 데이터셋으로 AI가 이미지 분류 작업을 학습하는 데 사용되었습니다.

 

환각현상(Hallucination)

챗gpt가 사실이 아닌 정보를 진실처럼 생성하는 현상으로 확률 기반 모델의 한계 중 하나입니다.

 

편향성

챗gpt는 학습 데이터에 내제된 편견을 그대로 반영해 성차별적 또는 인종차별적 표현이 나타날 가능성이 있습니다.

 

 

출처: 챗gpt시대 살아남기 (박종천 지음)