본문 바로가기

전체 글

 (64)
폰에 넣으려고 270억짜리 AI를 3.9GB로 줄이면, 무엇을 잘하고 무엇을 못할까 최근 "아이폰에서 270억 개짜리 AI가 돌아간다" 는 소식이 화제였습니다. 얼마 전만 해도 이만한 크기의 AI는 폰에 넣을 엄두조차 못 냈으니, 대단한 진전은 맞습니다. 그런데 여기엔 짚고 넘어갈 대목이 있습니다. 그 큰 걸 대체 어떻게 폰에 집어넣었을까요? 또 그렇게 줄인 AI는 무엇을 잘하고, 무엇을 못할까요? 이 글은 그 비결인 '양자화'를 처음부터 차근차근 풀어봅니다. 다 읽고 나면 앞으로 "폰에서 GPT급 AI가 돌아간다" 같은 소식을 봤을 때, 그게 나에게 무슨 의미인지 스스로 가늠할 수 있습니다.1. 폰에 넣기 어려웠던 이유AI 모델은 뜯어보면 결국 숫자(가중치) 덩어리입니다. "270억 개짜리(27B)"란 이 숫자가 270억 개나 된다는 뜻입니다.모델 크기는 의외로 간단한 곱으로 정해집니..
2025년 11월 MBN 서울마라톤 하프 PB 지난주 10km PB를 세운 덕에, 오늘의 하프 마라톤의 목표는 명확했다. 너무 무리하지 않으면서도 기존 기록(1시간 53분)보다는 빠르게 달리는 것. 컨디션이 좋다면 1시간 45분, 조금 힘들어도 1시간 49분대에 들어오자는 목표를 세웠다. 너무 빡세게 달리면 기록은 남겠지만, 추억은 남지 않으니.. 레이스를 즐기는 것 또한 중요했다. 평소 아끼던 전투복을 착용하고 대회장으로! MBN 하프마라톤은 올해 처음 열린 대회로, 광화문에서 시작해 서울을 가로지르는 첫 하프 코스라는 점에서 기대가 컸다. 게다가 뛰어아샨다2 촬영도 진행된다고 해 연예인을 볼 수도 있지 않을까 하는 작은 기대감도 더해졌다. 광화문에 도착하자마자 이순신 장군 동상과 세종대왕 동상에서 좋은 기운을 받는 느낌이었다. 덕분에 오늘도 ..
2025년 11월 SaveRace 10K PB 올해 5월, 기록 욕심을 내려놓고 ‘꾸준히 달리는 것’으로 달리기 목표를 변경하였다.그때부터 매일 30분 러닝, 주 1회 장거리 루틴을 6개월째 이어왔다. 작은 루틴을 꾸준히 실천했을 뿐인데, 여름이 지나 가을이 오면서 몸이 달라지기 시작했다.페이스가 조금씩 빨라지고, 긴 거리를 뛰어도 회복이 빨랐다.작년 10K 49분을 힘들게 달성했었는데, 오늘 달리게될 세이브레이스 10K. 지금의 컨디션이면 PB를 달성할 것 같다는 자신감이 샘솟았다. 단, 평소 인터벌이나 빠른 속도로 긴 시간을 달리는 훈련을 하지 않아서, 몇분을 목표로 달리는게 좋을지 감이 오지 않았다. 그렇게 대회장으로! 레이스 시작약 10도 정도로 달리기 적당한 날씨 출발 신호와 동시에 대회뽕에 휩쓸려 초반 2K를 4분30초대로 질주했다.그..
매일 달리기 14일차 - 매일 달리기를 통해 배운점 요즘은 마라톤 대회 접수가 예전만큼 쉽지 않다. 인기 대회는 눈 깜짝할 새 마감되고, 참가비도 점점 오르고 있다. 다음 대회로 생각했던 2025 JTBC 마라톤은 결국 접수하지 못했다. 다음 목표로는 2025 춘천마라톤이나 2026 동아마라톤 풀코스를 생각 중이지만, 이마저도 접수에 성공할지 장담하기 어렵다. 그동안은 대회 드리븐 달리기로, 대회가 있어서 더 열심히 달릴 수 있었는데, 그게 사라지니 긴장감도 함께 빠져나갔다. 러닝은 계속하고 있지만, 마음 한켠이 공허했다. 전환점이 된 발리에서의 일주일5월 초 발리로 여행을 다녀왔다. 언제부턴가 여행지에선 그 도시를 달리는 습관이 생겼는데, 이번엔 7일 내내 매일 아침 4.5~10km를 달렸다. 생각보다 몸이 잘 따라줬고, 문득 깨닫게 되었다. 아, 이제..
[좋은 리더를 넘어 위대한 리더로] 위대한 리더의 7가지 조건 "리더가 발휘하는 영향력의 핵심은 진정성이다.감동을 주려면 자신부터 감동해야 한다.설득하려면 자신부터 믿어야 한다."— 윈스턴 처칠 『좋은 리더를 넘어 위대한 리더로』 3장에서는 리더십의 기능과 7가지 유형을 소개하며, 사람마다 자신에게 맞는 리더십 유형을 찾아 의식적으로 성장시켜야 한다고 강조한다. 평소 리더십이 갖춰야 할 역량을 한눈에 정리해보고 싶다는 생각이 있었는데, 『좋은 리더를 넘어 위대한 리더로』 3장은 그 핵심을 한 챕터에 명확하게 압축해 보여주었다. 오래오래 기억하고 싶어서 여러 번 곱씹으며 읽었고, 내가 더 성장시키고 싶은 리더십 역량에 대해 고민해볼 수 있었다. 리더십의 기능과 7가지 공통 유형리더십의 기능리더십의 기능은 리더의 스타일이나 성향과 관계없이, 모든 리더가 공통적으로 ..
[실용주의 프로그래머] 돌맹이 수프 - 작은 시도가 만드는 변화 요즘 우리 팀은 『실용주의 프로그래머』를 함께 읽으며 매주 토론을 나누고 있다. 한 챕터를 읽고 토론하다보면, 자연스럽게 일하는 방식이나 문화에 대해 다시 생각해보게 되는 순간들이 있다. 지난주에 가장 마음에 남았던 이야기는 ‘돌맹이 수프’ 비유였다. 돌 하나로 시작된 변화어느 날, 한 여행자가 마을에 들어와 커다란 솥에 물과 돌맹이 하나를 넣고 수프를 끓이기 시작한다.마을 사람들이 궁금해하며 묻자 그는 말한다. “돌맹이 수프를 끓이는 중이에요. 양파나 당근만 조금 있으면 더 맛있을 텐데요.” 그 말을 들은 사람들은 각자 집에서 재료를 하나씩 가져온다.당근, 감자, 고기, 양파…그렇게 결국 진짜 맛있는 수프가 완성된다. 여기서 재미있는 건, 처음에 들어간 돌맹이는 사실 ‘먹을 수 없는 것’이라는 점이..
[좋은 리더를 넘어 위대한 리더로] 리더도 성장해야한다. '좋은 리더를 넘어 위대한 리더로' 책의 2장은 '사람'이 얼마나 중요한지를 다루고 있다. 두 가지 기억에 남는 부분이 있는데, 하나는 직전 글에서 소개한 핵심인재와 관련된 것이고, 다른 하나는 이번 글의 주제인 리더의 성장이다. 회사가 성장하는 과정에서 리더에게 요구되는 역량도 함께 진화한다. 작은 스타트업에서 필요한 리더십과 대기업에서 필요한 리더십은 분명 다르다. 중요한 점은, 조직이 성장할 때 리더도 함께 성장해야만 한다는 것이다. 그렇다면 리더가 성장하기 위해 가장 먼저 필요한 것은 무엇일까? 리더의 ‘의지’가 가장 중요하다.'의지'가 가장 중요하다는 내용을 마주하고 망치에 한방 맞은 기분이 들었다. 나는 꽤나 인정받는 개발자로 커리어를 시작했고, 조직의 필요에 따라 백엔드도 해보고, 앱개발도 ..
[좋은 리더를 넘어 위대한 리더로] 결국 사람이다. 우리 회사 최고의 인재 스무 명을 누가 빼간다면, 마이크로소프트는 별 볼 일 없는 회사가 될 것이다.- 빌 게이츠  짐 콜린스가 '기업가정신을 넘어서'에 담지 못했지만, 새로운 장을 추가해서 다루어야 할 정도로 중요하다고 강조한 가치. 2장을 읽으면서 위대한 기업을 만드는 데 있어 '사람'이 얼마나 중요한지 깊이 생각해보게 되었다. 기업의 성공 요소를 분석할 때 흔히 전략, 시장 기회, 혁신성, 자본력 등을 먼저 떠올리기 쉽다. 하지만 짐 콜린스의 연구에 따르면, 이러한 요소들보다 더 근본적이고 결정적인 요소가 바로 '사람'이라고 한다. First Who, Then What"First Who, Then What" - 다 잊어버리더라도, 이 문구만큼은 꼭 기억해야겠다는 생각이 든다. 사람이 먼저고, 사업은..

티스토리툴바