카테고리
AI·기술
- 글 32편

AI의 오류를 줄이고, 발견했을 때 고칠 수 있게 하기
🧠 왜 우리는 LLM의 환상을 없애지 않는가 Llm의 할루시네이션은 관리하는거다 3 ― 관리 가능한 LLM 추론 전략(Mitigatable Reasoning) 이라는 현실적 선택 1. 문제 제기: 왜 “사고처럼 보이는 것”이 문제가 되는가? 대형 언어모델(LLM)은 사고하지 않는다. 그러나 인간은 그 출력을 보면 자꾸 ‘사고하고 있는 것처럼’ 느낀다. 그…

AI의 답을 내 판단 능력으로 연결하려면
LLM을 통한 성과의 에센스 “증강지능과 인지적 프롬프트” Llm을 통한 성과의 에센스 “증강지능과 인지적 프롬프트” 3 LLM과 협력하는 방식이 성과를 결정합니다 LLM을 단순한 자동화 도구가 아닌 증강지능(Augmented Intelligence)으로 인식할 때, 우리는 그 진정한 가치를 온전히 실현할 수 있습니다. 더글라스 엥겔바르트가 강조한 증강지능의 개념은 인간과 AI가 협력하여 서로의…

프롬프트를 잘 쓰게 된 것과, 배우게 된 것은 같은가
시스템1vs2란 허상: 기존 프롬프트 엔지니어링의 한계 – 경험적(인지적) 프롬프트, AI와 인간의 협력적 학습과 공진화 1부- ✍ 해경(고경만) 1. 우리는 정말 학습하고 있는가? AI와 함께 일하면, 우리는 학습하고 있다고 착각하기 쉽습니다.그러나 정말로 학습하고 있을까요?예를 들어, 우리는 AI에 최적화된 질문을 던지는 법을 배우고 있나요?사실 그렇지 않습니다. 우리는…

불완전한 재료로 AI와 생각하기
“Garbage in, But Gold out”: 인간과 AI의 공진화를 통한 새로운 가치 창출 1. 인간은 본디 “쓰레기”에서 “금”을 캐내는 연금술사 인간은 불완전하고 모호하며, 때로는 “쓰레기”처럼 보이는 정보의 홍수 속에서도 놀라운 능력을 발휘합니다. 바로, 그 “쓰레기” 더미 속에서 보석과 같은 의미와 가치를 발견하고, “금”과 같은 눈부신 통찰을…

검색형 AI가 찾아준 답, 어디까지 확인한 것일까
할루시네이션 위험 증가– Search GPT 와 Perplexity 는 아직, 실시간 스크래핑(크롤링)을 하지 않습니다. LLM 미신은 할루시네이션을 유발하고, LLM의 효용 가치를 떨어뜨립니다. 실시간 데이터 수집의 방식은 두 갈래로 나뉩니다. 실시간 스크래핑과 실시간 쿼리 방식, 이 두 가지는 표면적으로는 유사해 보이지만, 그 성격은 다릅니다. 만약 우리가 실시간…

AI가 전문가처럼 답할 때, 무엇을 확인해야 할까
– 목록 AI 기술, 특히 대형 언어 모델(LLM)은 방대한 데이터를 기반으로 다양한 작업을 수행하며, 여러 분야에서 전문가를 대체할 수 있을지에 대한 논의가 활발합니다. 그러나 자연주의적 의사결정(NDM) 연구에서 인간 전문가의 의사결정 과정을 살펴보면, LLM이 전문가를 대체하기에는 여러 가지 한계가 분명히 드러납니다. 특히 RPD 모델(Recognition-Primed Decision Model)을…

AI가 전문가를 대체할 수 있나? 질문을 바꿔야 한다
짧게 말하면, AI는 전문가 전체를 대체하기보다 전문가가 하던 일의 일부 기능을 도울 수 있다. 핵심 질문은 “AI가 전문가인가?”가 아니라 “전문가가 하던 판단 루프 중 무엇을 AI와 나누고, 무엇은 사람이 끝까지 책임질 것인가?”이다. 이 글에서 말하는 전문성은 정답을 많이 아는 능력이 아니다. 전문성은 복잡한 상황에서 중요한…

“형태는 기능을 따른다”란 말이 불편했던 이유
나와 유사한 관점을 가지고 있던, 건축가 크리스토퍼 알렉산더의 저서 A Pattern language 의 삽입 이미지 1. 출발 — 나의 의문과 불편함 종종, 들리는 흔한 말이다. “제품은 사용하기 쉬워야 한다.” “품질은 반드시 제품이 책임져야 한다.” 언제나 must라는 강한 어투가 따른다. 나는 여기에 늘 불편함을 느껴왔다. 그…

나를 대체하는 AI가 아니라, 나를 성장시키는 AI
나를 대체하는 AI가 아니라, 나를 성장시키는 AI 앞으로 LLM을 얼마나 잘 활용하느냐에 따라, 개인의 퍼포먼스 차이는 더욱 커질 것이다. 그래서 나는 거의 모든 업무를 LLM과 함께하려 한다. LLM과 함께 일하다 보면, 어느 순간 AI에 의존하고 있음을 깨닫게 된다. 그리고 마침내, 내 자리를 대신하는 AI를 마주하며,…