[B급 프로그래머] 10월 3주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

(오늘의 짤방: Prompt engineering via @NickADobos)

1. 빅데이터/인공지능
   • 의료 AI의 미래, 연구·개발·교육에서 찾다··· 분당서울대병원 김세중 의료인공지능센터장
   • Show GN: 수능 국어 LLM 벤치마크 리더보드 오픈 (github.com/minsing-jin)
   • Zerox OCR
   • OmniAI - Automate complex document workflows.
   • Spring Initializr now includes AI Document Reader starters! 📄🔍
   • GN⁺: Adobe의 새로운 이미지 회전 도구, 가장 인상적인 AI 도구 중 하나 (creativebloq.com)
   • Llama3.java - Practical Llama 3, 3.1 and 3.2 inference implemented in a single Java file.
   • OpenAI Is A Bad Business
   • Download ChatGPT for Windows
   • 제미나이의 새로운 기능 젬스와 이마젠 3을 소개합니다
   • openai-realtime-api - TypeScript client for OpenAI's realtime voice API.
   • “학습만큼 망각이 필요”··· IBM이 강조하는 ‘LLM 언러닝’
   • "모든 것을 바꾼다" 업무와 여가를 변화시키는 필수 AI 도구 8종
   • 구글, AI 시대의 개발자 플랫폼 전략 수립 3단계 제시
   • 한 AWS 디렉터가 명쾌하게 제시한 ‘생성형 AI 활용의 경계’
   • “내부 활용으로 혁신 기반 마련” 은행의 생성형 AI 활용법
   • 중앙일보, AI 검색 기능 강화(예시 화면입니다)
   • 강력한 AI 등장 이후 우리가 맞이할 사랑의 기계 시대
   • “이력서도 뚝딱”…한컴의 야심작 ‘한컴독스 AI’ 써보니
   • The Long Context RAG Capabilities of OpenAI o1 and Google Gemini
   • 앤트로픽 CEO “2026년 등장할 AI, 노벨상 수상자 능력 뛰어넘을 것”
   • Token.js - 하나의 SDK로 200+개 LLM 연동하기 (github.com/token-js)
   • Generative AI’s Act o1
   • <랭체인LangChain 노트> - LangChain 한국어 튜토리얼🇰🇷
   • OpenAI Launches Public Beta of Realtime API for Low-Latency Speech Interactions
   • React18 Component -> React19 Component Refactor Prompt
   • Hugging Face Transformers: Leverage Open-Source AI in Python
   • Awesome LLM-Powered Agent
   • llama3 implemented from scratch
   • Introduction to NotebookLM - Learn how to create and collaborate with NotebookLM, a powerful AI research assistant.
   • Introduction to Retrieval Augmented Generation (RAG)
   • Distributed Training Guide
   • OpenAI Swarm - 경량 멀티에이전트 오케스트레이션 프레임워크 (github.com/openai)
   • The LLM Evaluation guidebook ⚖️
   • What I’ve Learned in the Past Year Spent Building an AI Video Editor - Lessons from An Unexpected Year in AI
   • Building an image search engine on Postgres
   • Building internal AI tools with Streamlit
   • 애플 “LLM 추론 능력이 좋아진게 아니라 패턴 매칭이 향상된 것”
   • Concise Machine Learning by Department of Electrical Engineering and Computer Sciences University of California at Berkeley
   • RAG 강의자료-KT DS 김성우 기술혁신단장님 자료 + BM25 + RAG 평가 - 기초부터 응용까지(유튜브 강의 자료)
   • veScale - A PyTorch Native LLM Training Framework
   • GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models
   • Augmented Physics: Creating Interactive and Embedded Physics Simulations from Static Textbook Diagrams(유튜브 영상 설명)
   • Quantum Roll
   • Orchestrating Agents: Routines and Handoffs
   • ZipNN - A Lossless Compression Library for AI pipelines
   • vecmul - 다양한 AI 모델을 저렴하게
   • Zero-to-Hero: ViT🚀
   • Give a warm welcome to the @HuggingFace Ovis 1.6 Gemma 2 9B vision language model, one of the most recent additions to the #Gemmaverse.
   • λ-2D: An Exploration of Drawing as Programming Language, Featuring Ideas from Lambda Calculus
   • Fourier Feature Encoding
   • Swarm (experimental, educational) - An educational framework exploring ergonomic, lightweight multi-agent orchestration.
   • guide for prompt generation by OpenAI
   • LLM 애플리케이션의 가장 치명적인 취약점 10가지와 최근 주목받는 RAG
   • 메타, 생성형 AI 기반 원스톱 동영상 제작 도구 무비 젠 공개
   • 시작만큼 중요하다··· AI 프로젝트를 중단할 시기를 정하는 법
   • CS 188 Spring 2024
   • 데이터 과학자가 생성형 AI 혁신을 위해 갖춰야 할 5가지 역량
   • AI와 함께하는 패션 큐레이션 — 무신사 2.0 시나리오 기반 추천 시스템 개발
   • NVIDIA Unveils NVLM 1.0: Open-Source Multimodal LLM with Improved Text and Vision Capabilities
   • MLE-bench - Evaluating Machine Learning Agents on Machine Learning Engineering
   • Video Background Remover & Changer
   • Show GN: 차트 분석 AI, 근데 이제 손금을 곁들인 (werkjrjmoxrq22227357.cdn.ntruss.com)
   • 🚀 LightRAG: Simple and Fast Retrieval-Augmented Generation
   • ColBERT vs. ColPali
   • Aria is a multimodal native MoE model.
   • 맛집 흥행에 영향력 큰 소비자 게시물은… 음식사진＞리뷰 글＞별점 순[박재혁의 데이터로 보는 세상]
   • Autonomous Agents-research papers.
   • Google AI reintroduces human image generation after historical accuracy outcry
   • New AI model can hallucinate a game of 1993’s Doom in real time
   • AI chatbots must learn to say 'help!' says Microsoft exec
   • Roblox is launching a generative AI that builds 3D environments in a snap
   • Mistral releases Pixtral 12B, its first multimodal model
   • Be like a Goldfish, Don't Memorize! Mitigating Memorization in Generative LLMs
   • How streaming LLM APIs work
   • openai’s cost structure
   • 오픈소스는 AI를 구할 수 없다
   • cleanlab helps you clean data and labels by automatically detecting issues in a ML dataset.
   • Lazy Predict help build a lot of basic models without much code and helps understand which models works better without any parameter tuning
   • Lux is a Python library that facilitate fast and easy data exploration by automating the visualization and data analysis process.
   • pyforest - feel the bliss of automated imports
   • PivotTable.js integration for Jupyter/IPython Notebook
   • draw a dataset from inside Jupyter
   • PyCaret - An open-source, low-code machine learning library in Python
   • FireDucks - Compiler Accelerated DataFrame Library for Python with fully-compatible pandas API
   • Build a Large Language Model (From Scratch)
   • The "Col" in ColBERT, ColPali, and ColQwen stands for “Contextualized Late Interaction”. But what does it actually mean?
   • How to be Data-Driven.
   • ⚖️ Compare and benchmark LLMs for RAG using Ragas, Haystack and Argilla
   • Agentic AI: 4 reasons why it’s the next big thing in AI research
   • An Intuitive Guide to How LLMs Work
   • ChatGPT 4 with canvas prompt is a masterclass; there is so much to learn from it.
   • OpenAI Releases Stable Version of .NET Library with GPT-4o Support and API Enhancements
   • GN⁺: OpenAI 리더들, "Microsoft가 서버 공급에 충분히 빠르게 움직이지 않는다"고 지적 (theinformation.com)
   • TableRAG: Million-Token Table Understanding with Language Models
   • 봇을 넘어서: AI 에이전트가 엔터프라이즈 자동화의 차세대 물결을 주도중 (menlovc.com)
   • Agentic Patterns - Implementing the agentic patterns using Groq
   • NVIDIA TensorRT Model Optimizer
   • llmcompressor is an easy-to-use library for optimizing models for deployment with vllm
   • kotaemon - An open-source clean & customizable RAG UI for chatting with your documents.
   • RagBuilder is a toolkit that helps you create optimal Production-ready Retrieval-Augmented-Generation (RAG) setup for your data automatically.
   • General OCR Theory: Towards OCR-2.0 via a Unified End-to-end Model
   • 🦙🎧 LLaMA-Omni: Seamless Speech Interaction with Large Language Models
   • An In-Depth Guide to Contrastive Learning: Techniques, Models, and Applications
   • LLM - A CLI utility and Python library for interacting with Large Language Models, both via remote APIs and models that can be installed and run on your own machine.
   • rerankers: A Lightweight Python Library to Unify Ranking Methods
   • Building RAG with Postgres
   • This repository contains the Llama Stack API specifications as well as API Providers and Llama Stack Distributions.
   • screenpipe - 24/7 Screen & Audio Capture
   • Crawl4AI simplifies asynchronous web crawling and data extraction, making it accessible for large language models (LLMs) and AI applications. 🆓🌐
   • Nike’s $25B blunder shows us the limits of “data-driven”
   • 봇을 넘어서: AI 에이전트가 엔터프라이즈 자동화의 차세대 물결을 주도중 (menlovc.com)
   • Gen AI로 인해 법적 조치의 비용이 감소하고 있음 — 기업들은 준비해야 함 (hbr.org)
   • Machine Learning Engineering Open Book
   • LiveKit Agents - OpenAI가 ChatGPT 고급 음성모드에 사용하는 오픈소스 프레임워크 (github.com/livekit)
   • Streamlit으로 내부 AI 도구 구축하기 (propelauth.com)
   • GN⁺: LLM, 마음 이론(Theory of Mind), 그리고 셰릴의 생일 (github.com/norvig)
   • PandasAI is a Python platform that makes it easy to ask questions to your data in natural language.
   • DGL is an easy-to-use, high performance and scalable Python package for deep learning on graphs.
   • In-The-Wild Jailbreak Prompts on LLMs
   • Horovod is a distributed deep learning training framework for TensorFlow, Keras, PyTorch, and Apache MXNet.
   • An unconstrained local alternative to ChatGPT's "Code Interpreter".
   • MemoRAG: Moving Towards Next-Gen RAG Via Memory-Inspired Knowledge Discovery
   • 🌟 Awesome LLM Apps
   • Pyserini is a Python toolkit for reproducible information retrieval research with sparse and dense representations.
   • Open WebUI is an extensible, feature-rich, and user-friendly self-hosted WebUI designed to operate entirely offline.
   • Repopack is a powerful tool that packs your entire repository into a single, AI-friendly file.
   • Awesome hallucination detection repo
2. 하드웨어
   • GN⁺: 아마존, 첫 컬러 Kindle 및 새로운 Kindle Scribe 공개 등 (aboutamazon.com)
   • GN⁺: Meta의 오픈 AI 하드웨어 비젼 (engineering.fb.com)
   • “잔상 최소화, 배터리 8주 지속”··· 아마존, ‘컬러’ 기반 킨들 이북 리더기 첫 출시
   • 엔비디아, OCP에 블랙웰 플랫폼 기본 설계 제공··· “AI 인프라 개발 촉진 목적”
   • 日 캐논의 부활... 값싼 ‘혁신 반도체 장비’로 ASML 독점 깬다
   • 디램리스 SSD는 호스트 메모리를 끌어다 캐싱을 하는데 메모리 할당이 잘못돼 블루스크린이 발생하는 문제가 생기고 있다고..
   • This Homemade Drone Software Finds People When Search and Rescue Teams Can’t
   • GN⁺: H100 GPU 거품 붕괴: GPU 가격이 $8에서 $2로 하락한 이유 (latent.space)
   • 엔비디아, 마이크로소프트·오픈AI에 블랙웰 시스템 첫 공급
   • The world’s most powerful supercomputers are getting a diamond quantum boost
   • “2030년 전체 IoT 출하량 25%가 AI 탑재” 카운터포인트
   • "크롬북 정체성 흔드는 구글" AI 강조하느라 또 자충수 두나
   • 데스크톱 PC에도 썬더볼트 5가 꼭 필요한 이유
   • 100% 충전 Vs. 80% 충전, 배터리 수명에 차이 있나?
   • 애플, 2025년 아이폰 SE 4에 자체 5G 모뎀 '코드명 센타우리' 탑재
   • ‘AI 진심’ 삼성전자, ‘가성비 甲’ AMD GPU 대량 구매
   • GN⁺: 새로운 WiLo 표준, Wi-Fi를 장거리로 확장 (spectrum.ieee.org)
   • OpenWRT One 출시 (docs.banana-pi.org)
3. 읽을거리
   • 증가하고 있는 대인 및 사회적 신뢰
   • 시험지 포장 알바 후기가 없길래 도움되라고 써본다
   • 사라진 15만 개 매장…“폐업도 힘들다”
   • [독서광] 갈대 속의 영원(본인이 작성한 글)
   • "이 좋은 걸 왜 지금에서야"…퇴직연금 묵혀둔 직장인 '희소식' [수지맞는 재테크]
   • AI 심리케어 서비스 개발에 6개월간 해외출장 9번, 핵심기술은 용역... "이게 R&D 카르텔"
   • 2023년 기준 출판생산 통계
   • Can you resist all the addictions modern life throws at you? Only if you’re rich enough
   • Why teenagers are deliberately seeking brain rot on TikTok
   • 한국이 110V 아닌 220V 쓰게 된 건…모두 ‘이 사람’ 덕분입니다
   • 파인애플 잼 함량 많아야 맛있는 ‘펑리수’… 달콤·바삭한 ‘써니힐·치아더·썬메리’ 추천[빵요정의 세상의 모든 디저트]
   • “불공정 구조 vs. 윈윈 구조” 구글 광고 기술 반독점 소송 청문회 종료
   • Show GN: 일하기 좋은 카페/장소 모음 (네이버 지도 리스트) (naver.me)
   • The big idea: should we be thinking about luck differently?
   • Weather as Landscape - Visualizing Weather Forecasts Through Landscape Imagery

EOB