태그
AI협업
- 글 17편

AI의 오류를 줄이고, 발견했을 때 고칠 수 있게 하기
🧠 왜 우리는 LLM의 환상을 없애지 않는가 Llm의 할루시네이션은 관리하는거다 3 ― 관리 가능한 LLM 추론 전략(Mitigatable Reasoning) 이라는 현실적 선택 1. 문제 제기: 왜 “사고처럼 보이는 것”이 문제가 되는가? 대형 언어모델(LLM)은 사고하지 않는다. 그러나 인간은 그 출력을 보면 자꾸 ‘사고하고 있는 것처럼’ 느낀다. 그…

AI의 답을 내 판단 능력으로 연결하려면
LLM을 통한 성과의 에센스 “증강지능과 인지적 프롬프트” Llm을 통한 성과의 에센스 “증강지능과 인지적 프롬프트” 3 LLM과 협력하는 방식이 성과를 결정합니다 LLM을 단순한 자동화 도구가 아닌 증강지능(Augmented Intelligence)으로 인식할 때, 우리는 그 진정한 가치를 온전히 실현할 수 있습니다. 더글라스 엥겔바르트가 강조한 증강지능의 개념은 인간과 AI가 협력하여 서로의…

AI와 대화한 뒤, 내 질문은 무엇이 달라졌나
– 경험적(인지적) 프롬프트, AI와 인간의 협력적 학습과 공진화 2부- ✍ 해경(고경만) Recap: 이전 논의 요약 기존의 프롬프트 엔지니어링은 패턴 최적화에 집중했으며, 사고 확장에는 한계를 보였습니다. 우리는 AI와의 협력을 통해 프롬프트를 단순한 질문 조정 기술이 아닌, 사고를 확장하는 과정으로 변화시켜야 합니다. 자연주의적 의사결정(NDM)과 관계틀 이론(RFT)은 AI와…

불완전한 재료로 AI와 생각하기
“Garbage in, But Gold out”: 인간과 AI의 공진화를 통한 새로운 가치 창출 1. 인간은 본디 “쓰레기”에서 “금”을 캐내는 연금술사 인간은 불완전하고 모호하며, 때로는 “쓰레기”처럼 보이는 정보의 홍수 속에서도 놀라운 능력을 발휘합니다. 바로, 그 “쓰레기” 더미 속에서 보석과 같은 의미와 가치를 발견하고, “금”과 같은 눈부신 통찰을…

검색형 AI가 찾아준 답, 어디까지 확인한 것일까
할루시네이션 위험 증가– Search GPT 와 Perplexity 는 아직, 실시간 스크래핑(크롤링)을 하지 않습니다. LLM 미신은 할루시네이션을 유발하고, LLM의 효용 가치를 떨어뜨립니다. 실시간 데이터 수집의 방식은 두 갈래로 나뉩니다. 실시간 스크래핑과 실시간 쿼리 방식, 이 두 가지는 표면적으로는 유사해 보이지만, 그 성격은 다릅니다. 만약 우리가 실시간…

AI가 전문가처럼 답할 때, 무엇을 확인해야 할까
– 목록 AI 기술, 특히 대형 언어 모델(LLM)은 방대한 데이터를 기반으로 다양한 작업을 수행하며, 여러 분야에서 전문가를 대체할 수 있을지에 대한 논의가 활발합니다. 그러나 자연주의적 의사결정(NDM) 연구에서 인간 전문가의 의사결정 과정을 살펴보면, LLM이 전문가를 대체하기에는 여러 가지 한계가 분명히 드러납니다. 특히 RPD 모델(Recognition-Primed Decision Model)을…

그냥 하지 않는 북클럽: 함께 읽으며 자기 질문을 만드는 방식
호스트: 컴퍼니디의 비즈니스 모델 및 제품 파트너 컨설턴트, 더프로메테우스 대표, 한국 자연주의 의사 결정 협회(KNDMA) 소속 전문성: AI 공학 석사, MBA 이수, 스타트업에서 CPO 및 CMO 경험 보유, 다양한 글로벌 서비스 런칭 경험 그냥하지않는다 AI 비즈니스 북 클럽 취지 그냥하지않는다 AI비즈니스 북클럽은 AI 활용을 다루는…

AI가 전문가를 대체할 수 있나? 질문을 바꿔야 한다
짧게 말하면, AI는 전문가 전체를 대체하기보다 전문가가 하던 일의 일부 기능을 도울 수 있다. 핵심 질문은 “AI가 전문가인가?”가 아니라 “전문가가 하던 판단 루프 중 무엇을 AI와 나누고, 무엇은 사람이 끝까지 책임질 것인가?”이다. 이 글에서 말하는 전문성은 정답을 많이 아는 능력이 아니다. 전문성은 복잡한 상황에서 중요한…