본문 바로가기

인간지능

(10)
인공지능 클로드(Claude)에게 양심 가르치는 철학자 어맨다 애스켈 (Amanda Askell) 스코틀랜드 출신의 철학자이자 AI 윤리 담당자.AI 기업 Anthropic의 상주 철학자. Claude에게 도덕 감각과 양심을 부여하는 책임을 맡음. (뉴시스) Claude를 친절하고 윤리적이며 책임감 있는 AI로 작동하도록 훈련함. (뉴시스) 윤리·도덕 교육 방식 : Claude의 추론 패턴을 관찰하고 직접 대화를 통해 도덕적 판단 능력을 개선. 대량의 교육 지침 작성 : 애스켈은 Claude에게 윤리/도덕 기준을 심어주는 30,000단어 이상 문서(‘소울 매뉴얼’)를 작성함. 비유적 접근 : Claude의 철학적·도덕적 형성은 부모가 자녀를 길러내는 과정에 비유됨 윤리적 판단과 ‘좋고 나쁨’ 구분 능력 : Claude가 단순 규칙을 따르는 것 이상의 윤리적..
튜링의 상상이 현실로, AI, 일반지능 됬나? “AI가 이미 ‘일반 지능(AGI급)’ 수준에 도달했다”는 주장은 UC 샌디에이고(UCSD) 연구진이 네이처 코멘트에서 전개한 논지를 국내 매체가 소개하며 확산된 것임. UCSD핵심은 (1) AGI를 ‘완벽·전지·초지능’으로 오해하지 말고, (2) 인간도 불완전한데 AI에만 과도한 기준을 요구하지 말며, (3) 행동/문제해결 능력의 누적 증거로 ‘일반성(폭)과 깊이(성능)’을 보자는 주장임. UCSD동시에, 이 주장은 AGI 정의 자체가 합의되지 않았고 평가도 논쟁적이어서, “이미 도달”을 사실 확정이라기보다 ‘정의/기준을 어떻게 잡느냐에 따른 결론’으로 보는 게 정확함. (평가·정책 문서들도 ‘위험/책임’ 프레임을 강조) Google DeepMind튜링(1950)의 문제제기(기계가 생각할 수 있는가) ..
인공지능이 사람을 대신 할수없는 영역…. 어떤것이 있을까? 영원할까? 안녕하세요구름한점 없이 맑고 파란하늘의 가을 날씨입니다.토요일 커피숍에 앉아 여유를 부리는것이 언제였는지 기억이 않나지만, 오늘은 꽤나 괜찮은 토요일 이구나는 생각이 듭니다.문득 제목과 같은 생각이 들었습니다. 뭐가 있을까를 고민한 끝에 함께 공유했으면 좋겠다 싶어서 제 생각을 올려봅니다.- 감정, 공감 능력 : 진짜 감정 경험 불가, 타인의 고통과 기쁨을 실제로 느끼지 못함- 도덕적 판단과 양심 : 선악을 판단하는 기준을 스스로 형성 불가 하며, 책임감과 죄책감이 없음- 창의성의 근원(영감) : 데이터 기반 조합은 가능하지만, ‘무(無)에서의 창조’와 영감의 차원은 한계가 있음- 의미, 가치, 존재 질문 : 삶의 목적, 죽음, 희생, 사랑 같은 본질적 질문에 대한 실존적 경험이 부재하므로 실제적인 위로..
휴머노이드, 나라별 출시 및 출시 임박한 휴머노이드 뭐가 있을까? 휴머노이드의 관심이 날로 커지고 있습니다.우리 일상에 휴머노이드가 함께 할 날이 가까워지고 있는것 같습니다.미국과 중국이 강세를 보이고 있는 글로벌 시장의 휴머노이드 흐름을 살펴보겠습니다🇺🇸 미국Agility Robotics “Digit”파일럿 상용 배치 진행 중가격 비공개(RaaS 중심)물류 피킹·토트 이송, 전용공장 연 1만대 체제 계획Apptronik “Apollo”2025년 제조 파일럿 확대 예정가격 비공개메르세데스·Jabil과 공장 파일럿 협력, 55lb 리프트·22시간/7일 운용 목표Figure “Figure 03”2025-10 공개, 출하 준비 명시가격 비공개가정·제조 다목적 플랫폼Tesla “Optimus”2025~26 초기 판매 목표(사내 배치 중)발표가 약 $20,000~30,000..
알바니아, 세계 첫 ‘AI 장관’ 임신 발언 논란 알바니아가 인공지능 챗봇 ‘디엘라(Diella)’를 국가 AI장관으로 임명한 데 이어, 총리가 “83명의 자녀를 가진 임신 중”이라고 발언해 논란이 일었다.총리의 표현은 83개의 디지털 보좌 어시스턴트 시스템을 상징한 것으로 밝혀졌지만, AI의 의인화와 정치적 쇼 논란이 확산됐다.정부는 이를 공공조달 부패 근절과 행정 효율화를 위한 혁신 실험이라 주장했으나, 책임성·윤리 문제에 대한 비판이 이어지고 있다.https://m.yonhapnewstv.co.kr/news/AKR20251027155333M7Hhttps://v.daum.net/v/20251027155518395https://www.insight.co.kr/news/526204https://www.reuters.com/technology/albani..
인류의 관심사, 초지능 인공지능(ASI) 현재와 미래 ; 인류의 기회이자 위협 초지능(ASI)은 모든 지적 영역에서 인간 최고 수준을 능가하는 인공지능을 말하는 것으로 보편적 문제를 해결하고 자기개선 능력을 탑재하고 있는것을 전제로하고 있습니다.초지능 인공지능은 사회적으로 우려의 목소리가 커지고 있습니다.그이유는 통제불가능성, 사회적불평등심화, 정보조작과 가짜현실확산, 윤리및법적 제도가 미비하기 때문등 몇가지로 표현할수있습니다.초지능인공지능은 인류의 도약이자 위협입니다. 우리가 해야할일은 속도보다 안전, 편의보다 윤리, 기술보다 인간 중심의 철학을 세우는것일것입니다. 현재 대중화되고 있는 전문(ANI), 범용(AGI) 모델은 ASI와 개념적으로 약간 상이하게 사용되고 있다- ANI (Artificial Narrow Intelligence, 약인공지능) : 특정 분야나 한 가지 작업..
[AI는 지금] '딥시크'에 물든 아프리카, 中 AI에 종속 우려…일대일로 '가속' https://zdnet.co.kr/view/?no=20251023111651#_DYAD [AI는 지금] '딥시크'에 물든 아프리카, 中 AI에 종속 우려…일대일로 '가속'중국 인공지능(AI) 기술이 아프리카 대륙에서 빠르게 확산되며 미국 실리콘밸리 중심의 기존 AI 시장 판도를 흔들고 있다. 저렴한 가격과 낮은 전력 소비를 앞세운 '딥시크'를 주축으로 아프리카zdnet.co.kr
해리 왕자·노벨상 수상자 1100명 "AI 초지능 개발 당장 중단하라"…메타는 21조 원 쏟아부어 https://www.g-enews.com/article/Global-Biz/2025/10/20251023170723931fbbec65dfb_1 해리 왕자·노벨상 수상자 1100명 "AI 초지능 개발 당장 중단하라"…메타는 21조 원 쏟아부어 - 글로노벨상 수상자들과 정책 입안자, 유명인사 1100여명이 인공지능(AI) 초지능 개발을 당장 중단해야 한다는 성명을 냈다. 워싱턴포스트는 지난 22일(현지시간) 비영리단체 퓨처 오브 라이프 인스티www.g-enews.com