#AI 할루시네이션

[issuepicker]

😱 AI가 만들어내는 가짜 정보의 충격적인 실체! 최신 AI 모델의 환각률이 무려 48%라니... 기술 발전의 그늘에 숨겨진 위험을 함께 알아봐요 #AI할루시네이션 #인공지능위험 #기술신뢰성 #오픈AI

[iamkenlee-blog]

법비의 난

최근에 조희대란 자가 무려 대법원장씩이나 되갖고 벌인 일이 대중의 공분을 크게 산 이유를 나름 세 가지로 요약했다.

첫째, 법 기술을 이용해 이재명을 대선판에서 없애고자 하는 시도에 지지자 빡침.

둘째, 지지자가 아닐지라도 사법부가 대놓고 정치에 끼어들었단 점에 몹시 빡침.

셋째, 6만 쪽 분량을 꼼꼼히 읽기엔 시간이 모자랄 게 뻔함에도 전자문서로 다 읽었다며 거짓말.

이중 셋째 문제는 이 건에만 해당하는 게 아니고 과거에도 동일한 사례가 숱하게 있었을 거란 점에서 빡침의 강도가 다를 것 같다. 실제로 특허 관련 업무를 하는 지인으로부터 2심까지 이겨 놓고 3심에서 파기환송 당했던 당시 황망했던 얘기를 듣기도 했고.

이럴 거면 차라리 AI 판사 도입을 검토할 때가 되지 않았는지? 실제 재판이 열리는 1심, 2심은 확실히 무리지만 서류 검토가 주 업무인 대법원과 헌법재판소라면 사람보다 AI가 압도적으로 우수한 측면이 있다고 봄.

6만 쪽을 판사가 꼼꼼히 다 읽는데 걸리는 긴 시간이 AI엔 필요치 않을뿐더러 뇌물 또는 인맥으로 인한 의도적 오판과 AI 할루시네이션 중 어느 쪽 오류가 더 클지도 따져볼 만할듯.

AI 성능이 하루가 다르게 올라가고 있는 시기라 내년엔 어떤 미친 기계가 등장할지. 현재 기술로도 파인튜닝과 RAG을 잘 조합하면 충분히 구현 가능할 거 같은데. 이 제도가 도입된다면 돈 없고 연줄 없는 나는 AI 판사를 바랄 것이다. 물론 변호사도 AI 에이전트로.

[livlovlun119]

할루시네이션 그럴듯함의 오류 /

ai 인디시전(ai 망설임) ai 네이티브 /

prompt 기획력과 예측력planning&prospect 구성력reconstruction 통합의 능력organize 질문력make a question 설득력있게 전달 하는 능력persuasion 휴먼터치를 넣어 공감을 자아내는 능력together&touching /

회전초밥 맥주공장에서 아이디어 / 창발 / 아리스토텔레스 로고스(논리) 파토스(감성) 에토스(매력도 명성) / 에토스 파토스 로고스 순으로 중요 /

[iamkenlee-blog]

"딥씨크 vs 챗GPT"

요즘 중국에서 만든 생성형 AI '딥씨크-V3'가 화제라, 이제 막 딥러닝 걸음마 시작한 딥린이로서 관심을 두지 않을 수 없기도 하고 시험 삼아 며칠 써 본 느낌은 챗GPT와 상호 보완하면 상당히 쓸만하다.

개발 비용이 정말 600만 달러밖에 안 들었는지에 관해 논란이 있는 모양이긴 하나 뻥을 좀 친 게 나중에 밝혀진들 챗GPT처럼 1억 달러나 들어갔을 린 없겠지.

우선 단점부터 말하자면 틀린 정보를 자신있게 답하는 할루시네이션(Hallucination)이 더 심한 것 같다. 또 중국산답게 정치적 편향이 있다고 들었지만 내 활용 용도와는 무관하므로 패스.

반면에 땅고 가사 해석을 시켰더니 챗GPT만큼이나 좋은 성능이 나오는 거 같다. '땅고사리추가' 책 머리말에 썼듯, 예전엔 스페인어로 된 땅고 가사가 궁금할 때마다 구글, 파파고, 디��� 번역기가 발번역한 결과물을 놓고 종합 판단하느라 상당히 성가셨는데 챗GPT 덕분에 이 문제를 거의 해결하긴 했지만 그럼에도 교차 검증은 해�� 해 번역기를 버릴 수 없었다면, 앞으론 딥씨크로 하면 된다.

첨부한 자료는 얼마 전에 올린 로베르또 삐르뽀 작곡, 후안 까르소 작사한 '보헤미안의 영혼(Alma de bohemio)' 가사를 딥씨크와 챗GPT에게 각각 번역해 보라고 요청한 결과.