챗gpt #할루시네이션 #생성형ai #chatgpt #마이크로소프트 #테이 #ai #구글 #ms #bing #openai #microsoft #제미니 (1) 썸네일형 리스트형 RAG [백기락의 PaiP] #RAGRetrieval-Augemented Generation검색-증강 생성 #챗GPT 가 등장했을 때 #할루시네이션 은 재미있는 소재였습니다. 여러 가지 장난을 치거나, 새로운 할루시네이션을 찾아내려는 사용자들이 많았지요. 문제는, #생성형AI 를 만드는 입장에서 이게 굉장히 곤혹스러운 상황이라는 겁니다. 제품을 만들었는데, 엉뚱한 결과를 내는 걸 소비자들이 즐기고 있으니까요. 게다가 #ChatGPT 는 사용자의 사용 패턴도 학습을 일부 시키고 있었는데, 이대로 두면 점점 이상한 데이터를 학습해서 전체 품질이 낮아지는 상황이 올 수도 있었습니다. 실제로 #마이크로소프트 의 #테이 라는 #AI 가 트위터 데이터를 바탕으로 학습한 후 공개했다가 사용자들의 이상한(?) 사용으로 인해 AI 서비스를 결국 .. 이전 1 다음
