[B급 프로그래머] 5월 3주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

오늘의 짤방: current state of stochastic parrot LLMs via @intrstllrninja

1. 빅데이터/인공지능
   • Jina Reader - Get LLM-friendly input from a URL or a web search. Improve the factuality of your agent, RAG, GenAI system with a simple prefix.
   • Vision Foundation Models: When Does Size Matter?
   • It’s easy to tamper with watermarks from AI-generated text
   • It's surprisingly difficult for AI to create just a plain white image
   • Temporal Data Meets LLM - Explainable Financial Time Series Forecasting
   • Fine-tune a Llama-2 language model with a single instruction
   • The lifecycle of a code AI completion
   • Cody - Code AI with codebase context: "an AI pair programmer that actually knows about your entire codebase's APIs, impls, and idioms"
   • MIT License text becomes viral “sad girl” piano ballad generated by AI
   • After AI beat them, professional Go players got better and more creative
   • AI's new power of persuasion: Study shows LLMs can exploit personal information to change your mind
   • Stanford’s ReFT fine-tunes LLMs at a fraction of the cost
   • Benchmark for general purpose AI chat model
   • Effort - A possibly new algorithm for LLM Inference
   • 50+ Open-Source Options for Running LLMs Locally
   • AI shakes up corporate boards
   • Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention
   • Google’s new technique gives LLMs infinite context
   • Phi-3 Technical Report: A Highly Capable Language Model Locally on Your Phone
   • ROC and AUC are important concepts for evaluating classification models in business (e.g. lead scoring). In 6 minutes, I'll share what took me 60 days to figure out.
   • Multimodal Structured Outputs: GPT-4o vs. Other GPT-4 Variants
   • “문서 처리 돕는 AI 도구, 98% 정확도 이르렀다” 세지윅 리아 쿠퍼 CDO
   • 🧑‍🌾 DataGrower - Grow your own datasets
   • 생성형 AI 전략 확장하는 애플, 아이폰 시리의 챗GPT 지원 논의
   • “얼굴 표정, 손글씨도 인식…” 오픈AI, GPT-4o 발표
   • I just updated my LLM performance chart. The chart now includes: • elo score • tokens per second • total cost(평가에 사용한 코드
   • “생성형 AI와 검색의 결합” 정보의 디스토피아를 바꾼다
   • 오픈소스 생성형 AI에서 주의해야 할 10가지 사항
   • 비자, 고객 데이터 활용하기 위한 AI 계획 발표… 전문가 "소비자 이득 불분명"
   • “적인가 동지인가” 마이크로소프트와 오픈AI의 복잡한 관계
   • 생성형 AI의 개발 프로세스 이해하기
   • 구글 I/O의 프로젝트 아스트라, 현실에 발 디딘 기술일까
   • AI 데이터 플랫폼 기업 웨카, 1억 4천만 달러 투자 유치··· “생성형 AI로 수요 급증”
   • 삼성SDS, 생성형 AI로 인천공항공사 업무 혁신
   • OpenAI의 ChatGPT MacOS App 일부 사용자 대상 공개 및 출시 (help.openai.com)
   • ‘제미나이의 시대’ 선언한 구글...121번 ‘AI’ 외쳤다
   • With the Google Developer Program, you can now access new benefits at no cost - including Gemini - to generate summaries of documentation, explain sample code, & answer product Qs.
   • Aichat: All-in-one AI-Powered CLI Chat & Copilot
   • 머신러닝으로 만드는 개인화 추천 시스템
   • How generative AI expands curiosity and understanding with LearnLM
   • Yi 1.5 - 차세대 오픈소스 이중언어 LLM (github.com/01-ai)
   • Open Source RAG with Ollama by Weaviate(Verba 1.0.0)
   • GN⁺: 순수 NumPy로 구현하는 라마 3 모델 (docs.likejazz.com)
   • Protecting users with differentially private synthetic training data
   • Video-LLaVa is an open-source multimodal LLM trained by fine-tuning LlamA/Vicuna on multimodal instruction-following data generated by Llava1.5 and VideChat.
   • Parler-TTS is a lightweight text-to-speech (TTS) model that can generate high-quality, natural sounding speech in the style of a given speaker (gender, pitch, speaking style, etc).
   • A Watermark for Large Language Models(API 문서)
   • Multimodal Augmentation for Documents: Recovering “Comprehension” in “Reading and Comprehension” task
   • GN⁺: GPT-4o의 메모리 혁신 – 바늘 더미 속 바늘 (nian.llmonpy.ai)
   • 미디어 산업을 감염시키는 AI 기반 콘텐츠 괴물, AdVon (futurism.com)
   • 챗GPT 답변, 사용자 불만은… ① 질문 의도 오해 ② 깊이 부족 ③ 부정확[박재혁의 데이터로 보는 세상]
   • 영상 편집, 음악 제작 등 창작자에게 필수 AI툴 개발 전쟁
   • 생성형 AI를 활용한 비즈니스의 현주소
   • 딥러닝 추천 모델에 인과추론 접목시켜 전환율 예측 성능을 향상시키자!
   • Local RAG From Scratch - Develop and deploy an entirely local RAG system from scratch
   • Binary Embeddings: All the AI, 3.125% of the Fat
   • cuDF is a Python GPU DataFrame library (built on the Apache Arrow columnar memory format) for loading, joining, aggregating, filtering, and otherwise manipulating tabular data using a DataFrame style API in the style of pandas.
   • pipecat is a framework for building voice (and multimodal) conversational agents.
   • OpenAI CEO 샘 알트만 최근 인터뷰 ㄷㄷ
   • Let's learn how to evaluate a RAG application (part 1):
   • Punica: Serving multiple LoRA finetuned LLM as one
   • LoRAX (LoRA eXchange) is a framework that allows users to serve thousands of fine-tuned models on a single GPU, dramatically reducing the cost of serving without compromising on throughput or latency.
   • Start Building with Project IDX Today - Google I/O 2024 is in full swing, and we're sharing updates on how Project IDX fits into our mission to create an integrated workspace that can be used to ship full-stack, AI-powered apps across platforms.
   • “틈날 때 부업, 수익 1000만원” 홍보의 진실
   • GN⁺: Google DeepMind Veo - 가장 강력한 생성형 비디오 모델 (deepmind.google)
   • Google I/O 2024에서 발표한 10가지 업데이트: 모든 웹 개발자를 위한 AI 기능 활용
   • How GPT-4o predicts the next token 🎭
   • Building Agents with gpt-4o
   • Image Chat, Image Generation, Image classification and Normal Chat
   • I got a fully working Breakout game code using a shortcut to pull up the app with GPT-4o and a simple screenshot of my screen.
   • Using LlamaIndex and llamafile to build a local, private research assistant
   • PaliGemma – Google's Cutting-Edge Open Vision Language Model
   • Infinite Wonderland - This is an AI experiment where the timeless classic Alice’s Adventures in Wonderland is endlessly reimagined by artists, AI and you.
   • Google I/O 2024에서 발표된 모든 것들 (theverge.com)
   • Plot2Code: A Comprehensive Benchmark for Evaluating Multi-modal Large Language Models in Code Generation from Scientific Plots
   • OpenAI Cookbook, interesting “The ChatCompletion endpoint now includes the ability to specify whether a tool must be called every time, by adding tool_choice='required' as a parameter.”
   • Introducing GPT-4o: OpenAI’s new flagship multimodal model now in preview on Azure
   • Introducing GPT-4o and more tools to ChatGPT free users
   • 애플+오픈AI : Apple Intelligence 만든다
   • How Is ChatGPT’s Behavior Changing Over Time?
   • Understanding How Vector Databases Work!
   • AI PROMPT ENGINEERING IS DEAD
   • too long for a tweet, some thoughts on GPT-4o by Sam Altman
   • Best practices for monitoring ML models in production
   • 내가 StackOverflow에 시간과 전문 지식을 제공한 이유는 CC-BY-SA 라이선스 였기 때문 (aus.social)
   • OpenAI, GPT-4o 공개 및 ChatGPT Free User에 더 많은 도구 도입 (openai.com)
   • OpenAI, 텍스트, 오디오, 이미지 기능을 갖춘 멀티모달 AI 모델 GPT-4o 공개 (openai.com)
   • 신한금융, 5년만에 '신한AI' 문 닫는다…"당국, 망분리 해결해야"
   • ML & Gen AI for data teams - Building reliability by design for classical ML use cases and Gen AI
   • nowledge Graph Builder App
   • Neo4j for GenAI
   • Query Knowledge Graph with LLM Application
   • Lumina-T2X: Transforming Text into Any Modality, Resolution, and Duration via Flow-based Large Diffusion Transformers
   • How to Build a Crystal Image Search App with Vector Search
   • The Llama Hitchiking Guide to Local LLMs
   • agentscope - Start building LLM-empowered multi-agent applications in an easier way.
   • How LLMs Work, Explained Without Math
   • LLM 추론 성능 엔지니어링: 모범 사례
   • SolarLLMZeroToAll - 모두를 위한 #solarllm 시리즈
   • LLaVA-NeXT: A Strong Zero-shot Video Understanding Model
   • Trustworthy Retrieval-Augmented Generation with the Trustworthy Language Model
   • Low-Hanging Fruit for RAG Search
   • AutoGroq is an AI-powered conversational assistant designed to revolutionize the way users interact with AI tools.
   • STORM: Synthesis of Topic Outlines through Retrieval and Multi-perspective Question Asking
   • node-mlx - Node.js용 머신 러닝 프레임워크 (github.com/frost-beta)
   • GN⁺: Stack Overflow 사용자들, OpenAI 제휴 후 답변 삭제 잇따라 (build5nines.com)
   • 오픈AI, 시각 능력도 갖춘 AI 음성 비서 개발 중...프리뷰 공개 임박
   • RadOnc-GPT: Leveraging Meta Llama for a pioneering radiation oncology model
   • Natural Language Processing at UT Austin, 2023-2024 version (Greg Durrett)
   • TimesFM (Time Series Foundation Model) is a pretrained time-series foundation model developed by Google Research for time-series forecasting.
   • 오픈AI, 책임감 있는 AI 형성 위한 프레임워크 ‘모델 스펙’ 공개
   • LiDAR Diffusion Models [CVPR 2024]
   • 일랴가 존카맥에게 주었다는 30개의 페이퍼리스트.
   • 현대오토에버 "딥러닝 기반 ETA 예측으로 내비게이션 정확도 74% 향상"
   • IBM Granite - 코드 작성용 오픈 파운데이션 모델 패밀리 (github.com/ibm-granite)
   • faster-nougat - Implementation of nougat that focuses on processing pdf locally.
   • GN⁺: OpenAI, 콘텐츠 제작사와의 파트너십 제안 내용 자료 유출 (adweek.com)
   • Scrapegraph-ai - LLM과 직접 그래프 로직을 이용한 웹 스크래핑 (github.com/VinciGit00)
   • GN⁺: Google TimesFM - 시계열 예측을 위한 시계열 파운데이션 모델 (github.com/google-research)
   • WrenAI is a text-to-SQL solution for data teams to get results and insights faster by asking business questions without writing SQL.
   • “사내 자동화 도구가 새로운 수익원으로”··· 엑스피온헬스가 AI를 활용하는 방식
   • 뒷방 신세 ‘빅데이터’ 유감 · · · 비즈니스와 데이터옵스의 간극에 대하여
   • "생성형 AI 기업 배포 활발··· AI 채택의 최대 장애물은 ‘가치 입증’" 가트너
   • "개인 AI는 순항 중, 전사 배포 전략은 헤매는 중"…MS 설문조사 결과
   • [2024 금융AI 혁신①] '생성형AI'로 또 한번 격동… 은행권, 'AI 조직' 공격적 확대
   • "식약처 점검에 답변 척척"…삼성바이오로직스, AI로 내부데이터 신속 검색
   • What is retrieval-augmented generation, and what does it do for generative AI?
   • "너무 모호해서 더 까다로운" LLM의 허점 5가지
   • AI 도구가 '화상회의 피로'를 줄이는 데 도움이 될 수 있을까?
   • '상담원의 업무 부담뿐 아니라'… 자체 개발한 생성형 AI 도구로 고객 지원 중인 UPS
   • '책임감 있는 AI'에 대한 잘못된 통념 3가지
   • Serverless RAG on AWS
   • Fast Exact Retrieval for Nearest-neighbor Lookup (FERN)
   • 🤗 LeRobot aims to provide models, datasets, and tools for real-world robotics in PyTorch.
   • LMDeploy is a toolkit for compressing, deploying, and serving LLMs.
   • Phi-3 WebGPU: a private and powerful AI chatbot that runs 100% locally in your browser
   • How LLMs work, clearly explained:
   • 세콰이어 캐피탈 주최의 AI 에이전트 관련 발표 중 두 개를 요약해 보았습니다.
   • llama3.js - A JavaScript implementation of Llama 3 using node-mlx, code modified from mlx-examples.
   • ImageInWords: Unlocking Hyper-Detailed Image Descriptions
   • Exploring LLMs Speed Benchmarks: Independent Analysis
   • 네이버, 웹 검색 AI 기술 업데이트…티스토리 영향?
   • ML news of the week - A collection of the best ML news every week (research, news, resources). Star this repository if you find it useful.
   • GN⁺: 2024년의 Machine Unlearning (ai.stanford.edu)
   • GN⁺: gpudeploy - GPU를 위한 "에어비앤비" (gpudeploy.com)
   • '소라'로 제작한 첫 공식 뮤비 공개..."뮤비는 만족할 수준"
   • eSpeak NG - 100개 이상의 언어와 악센트를 지원하는 음성 합성기 오픈소스 (github.com/espeak-ng)
   • Best tutorial on diffusion models that I’ve seen
   • Secret Llama - WebGPU로 구동되는 인브라우저 Llama 3 챗봇 구현체 (github.com/abi)
   • Top 10 Machine Learning Algorithms
   • Amazon Q Developer 정식 버전 출시 – 개발자 경험을 변화시킬 신규 기능 추가
   • Amazon Q Business 정식 버전 출시 – 생성형 AI 기반 업무 생산성 향상 지원 기능 추가
   • Google's Med-Gemini Scores 91.1% on the US Medical Licensing Exam (USMLE) for M.Ds.
   • 2DGS: 2D Gaussian Splatting for Geometrically Accurate Radiance Fields
   • 마이크로소프트, SLM 넘어 매개변수 5000억개 규모 LLM도 자체 개발
   • Machine Learning GPU Benchmarks
   • llm.c, 이제 멀티GPU 트레이닝을 지원하며 PyTorch보다 ~7% 빠름 (twitter.com/karpathy)
   • 인공지능에 필요한 배경지식 모음
   • Autonomous RAG - This cookbook shows how to do Autonomous retrieval-augmented generation with GPT4.
   • Scale AI just released their "AI Readiness" report
   • DeepfakeBench: A Comprehensive Benchmark of Deepfake Detection (NeurIPS 2023 D&B)
   • Best-of Machine Learning with Python - 🏆 A ranked list of awesome machine learning Python libraries. Updated weekly.
   • Minimal Implementation of Rectified Flow
   • spRAG is a RAG framework for unstructured data. It is especially good at handling challenging queries over dense text, like financial reports, legal documents, and academic papers.
   • Introducing Idefics2: A Powerful 8B Vision-Language Model for the community
   • NeuralForecast offers a large collection of neural forecasting models focusing on their performance, usability, and robustness. The models range from classic networks like RNN to the latest transformers: MLP, LSTM, GRU,RNN,TCN, DeepAR, NBEATS, NBEATSx, NHITS, DLinear, NLinear,TFT, Informer, AutoFormer, FedFormer, PatchTST,StemGNN, and TimesNet.
   • Machine Learning cheatsheets for Stanford's CS 229
   • Deep Factorization Machines
   • A Primer on the Inner Workings of Transformer-based Language Models
   • What makes Phi-3 so incredibly good?
   • 🌟 Awesome LLM Apps - A curated collection of awesome LLM apps built with RAG and AI agents.
   • Evidence of a predictive coding hierarchy in the human brain listening to speech
   • Chapter 6: Finetuning for Text Classificatio
2. 하드웨어
   • 누피 에어 V2 리뷰 | 로우 프로파일 키보드의 위상을 높이다
   • 엔비디아, “세계 최초의” 양자 가속 슈퍼컴퓨터 발표
   • "과학 컴퓨팅서 큰 진전 기대"… 엔비디아, 블랙웰 플랫폼 사용 사례 공개
   • 구글, 6번째 버전 TPU 칩 ‘트릴리움’ 공개
   • GN⁺: Raspberry Pi Ltd, IPO 검토 (londonstockexchange.com)
   • Pi-card is an AI powered voice assistant running entirely on a Raspberry Pi.
   • GPUs Go Brrr
   • From Papers to Pixels: a Raspberry Pi Document Scanner
   • Announcing Trillium, the sixth generation of Google Cloud TPU
   • 에어팟을 모스부호(Morse Code) 송신기로 사용하기 (github.com/EtherDream)
   • “본체 꾹 쥐면 팔레트 표시” 애플, 애플 펜슬 프로 공개
   • GN⁺: LPCAMM2 - 노트북용 모듈식, 수리 및 업그레이드 가능한 메모리 표준 (ifixit.com)
   • NVIDIA GH200 Grace Hopper Superchip
   • Apple, M4칩을 탑재한 신규 iPad Pro 및 Apple Pencil Pro 공개 (apple.com)
   • Apple, M4 칩 공개 (apple.com)
   • ‘바닷속 냉전’ 벌이는 美…해저케이블, 중국 안 거치고 간다
   • Multi-million dollar Cheyenne supercomputer auction ends with $480,085 bid — buyer walked away with 8,064 Intel Xeon Broadwell CPUs, 313TB DDR4-2400 ECC RAM, and some water leaks
3. 읽을거리
   • 햇반 용기가 사각에서 동그라미로 바뀐 이유는
   • '채권 듀레이션' 쉽게 공부하기 - 수정 듀레이션과 맥컬리 듀레이션은?
   • 부동산·예금에 묶인 돈...답 없는 5060세대, 투자도 꼴찌
   • Super Mario 64 fans finally open the game’s ‘unopenable’ door, 28 years later
   • 중고 팔았는데 “세금 100만원”…리셀러 잡다가 민심 잡겠네
   • [세쓸통]키 컸는데 뚱뚱해진 대한민국…30대男 40년만에 비만됐다
   • 막막한 ‘현실의 벽’… 시동 꺼진 ‘푸드트럭’ [중고매물이 된 청년의 꿈 ①]
   • 갑자기 코인 세금 고지서…"내년 아니었어?"
   • [유머] 한국 전통 무협 만화 최신 근황. manga
   • 밀리의 서재, 삼성·현대 등 ‘독서 고객사’ 매료…“비결은 ‘무제한 독서’”
   • KB 연구 보고서(경제 관련 좋은 내용 많음)
   • “수십년 일했는데 집 한 채만 덩그러니”…생활비에 허덕이는 '낀 세대'[현금없는세대 5060]
   • Oasis refund fans almost £1m - After their disastrous Heaton Park gig, Noel and Liam Gallagher have sent out cheques to 20,000 disappointed fans – and are banking on them not being cashed in
   • 일본 기프트 시장, 디지털이 대세
   • 아마존에 취직한 인류학자
   • 스탠리 드러켄밀러의 인사이트 15개
   • [인터뷰] ING 강민주 "韓 주식은 신흥국, 채권은 선진국에 가깝다"
   • 상비약 사러 갔다가 '깜짝'… 약값·병원비 껑충 뛰었다
   • KDI 보고서 "한국의 중산층은 누구인가"
   • Could stablecoin volumes overtake Visa this quarter?
   • ‘다다익선’을 둘러싼 질문은 다다익선
   • 낮은 출산율, 외롭지 않은 한국
   • 3줄 요약 아니면 읽지 않는 시대
   • Rockets and People - A four-volume memoir by Boris Chertok
   • 영국에 포섭된 KGB 첩자, 1983년 미·소 핵전쟁 막았다

보너스: This hits home pretty hard... via @AartBik

[독서광] 요즘 AI 페어 프로그래밍

이번 주는 요즘 AI 페어 프로그래밍을 소개하겠다.

방송 스크립트는 전체 공개되어 있으며, 슬라이드셰어에서 보거나 다운로드 받을 수도 있다.

하이라이트를 요약 정리하면 다음과 같다:

• 00:00 도입
• 01:18 한 페이지 요약
• 04:05 이 책의 목차
• 05:25 무엇이 이 책을 흥미롭게 만드는가?
• 15:29 대상 독자
• 17:30 결론과 마무리

EOB

[B급 프로그래머] 5월 2주 소식(개발/설계/경력관리/보안/클라우드/데이터베이스 관련 소식 정리)

(오늘의 짤방: my dear friend journalctl via @memenetes)

개발 관련 소식

1. 팁과 유틸리티
   • 윈도우용 아크 브라우저 리뷰 | 전통적인 탭 사용 경험을 ‘완전히’ 뒤집다
   • “윈도우 앱 안 부럽다” 리눅스 뉴비를 위한 추천 SW 10선
   • GN⁺: BlackHole: macOS용 오디오 루프백 드라이버 (github.com/ExistentialAudio)
   • BlackHole: Audio Loopback Driver
   • 깨알 같이 숨어 있는 윈도우 내 광고 안 보이게 설정하는 10가지 방법
   • Ask HN: 멋져 보이는 스타트업 데모는 어떻게 만드나요? (news.ycombinator.com)
   • GN⁺: CSS Grid로 악보 출력 하기 (cruncher.ch)
   • Freeter - 모두를 위한 오거나이저 앱 오픈소스 (freeter.io)
   • Cascadia Code 2404.23 for programming fonts
2. 프로그래밍
   • Asynchronous Tasks With Django and Celery
   • A 100x Speedup With Unsafe Python
   • How Python Asyncio Works: Recreating it from Scratch
   • 파이썬 대표 프레임워크 ‘장고’의 개발 트랜드는?··· 장고 개발자 설문조사 2024 핵심 내용
   • New UUID Formats
   • RFC 9562 - Universally Unique IDentifiers (UUIDs)
   • Google technical writing One, Pre-class material 읽기 (2/3)
   • Raspberry Pi Connect 베타 발표 (raspberrypi.com)
   • 웹 애플리케이션 페이지를 패키지로 개발해 본 경험 공유
   • Show GN: JavaScript에서 한글을 다루는 현대적인 라이브러리 (github.com/toss)
   • Python Constants: Improve Your Code's Maintainability
   • “모든 신기술의 감초” 가상머신(VM)의 이해
   • 오라클, SQL·자바 특화 AI 코딩 도구 ‘코드 어시스트’ 출시
   • pacemaker - For controlling time per iteration loop in Python.
   • xmake - Lua 기반 크로스플랫폼 빌드 유틸리티 (github.com/xmake-io)
   • Fast Exact Retrieval for Nearest-neighbor Lookup (FERN)
   • JEP 474: Generational Mode Now Standard for ZGC in Java
   • spring-boot-full-text Spring Boot 전문 (Full Text) 통신 라이브러리
   • Pyspread - 파이썬 스프레드시트 (pyspread.gitlab.io)
   • What Is the __pycache__ Folder in Python? Quiz
   • How to Avoid Conflicts and Let Your OS Select a Random Port
   • TypeIs does what I thought TypeGuard would do in Python
   • The Magician's Sleight of Hand - A Python switcheroo that will leave the audience stunned
   • Building Reusable Components in Django
   • Vulture - Find (Python) dead code
   • GN⁺: PHP는 더 이상 형편없지(Suck) 않아요 (developerjoy.co)
   • Python News: What's New From April 2024
   • simdjson : Parsing gigabytes of JSON per second
   • Speeding up C++ build times
   • Learning Go in 2024; From Beginner to Senior
   • Hatch is a modern, extensible Python project manager.
   • [Reactor] 서버 느리게 만드는 API 개발하기 (feat: block)
   • A collection of compiler optimizations with brief descriptions and examples of code transformations.
   • How to Get Normally Distributed Random Numbers With NumPy
   • What's Lazy Evaluation in Python?
   • C# Delegates In Practice — Implementing Observer Pattern With Delegates
   • Full Series Stanford University - C programming
   • Django Login, Logout, Signup, Password Change, and Password Reset
   • GN⁺: JSON Path 사용법 (bump.sh)
   • Design Patterns in C#
   • The long-awaited and requested FastAPI CLI is here! 🎉
   • GN⁺: Penpot 2.0 - Figma의 오픈소스 대체제 (penpot.app)
   • nushell: A new type of shell
   • Why Logfire is a perfect fit for FastAPI + Instructor¶
   • “가장 널리 사용하는 LTS 버전은 자바 17”
   • Full Line Code Completion in JetBrains IDEs: All You Need to Know
   • GN⁺: BASIC 프로그래밍 언어 60주년 (arstechnica.com)
   • PyOptInterface is an open-source Python library to provide a unified API to construct and solve optimization models with various optimizers.
   • Floats Are Weird - Compute this limit more accurately with one weird trick!
   • Jira의 이슈 정렬 방식이 Integer 방식이 아니라고?!
   • PL 위키
   • Fluent - 자연스러운 번역을 위한 로컬라이제이션 시스템 (projectfluent.org)
   • Lambda functions in Python clearly explained:
   • How to Run Your Python Scripts Quiz
   • memlab is an end-to-end testing and analysis framework for identifying JavaScript memory leaks and optimization opportunities.
   • AI로 코드 리팩토링, ‘아직은 아니다’
   • ‘뭐부터 코딩 하지?’ 고민 AI에 맡긴다··· 깃허브, ‘코파일럿 워크스페이스’ 공개
   • GN⁺: Run0 - sudo를 대체하는 systemd 기반 도구 발표 (mastodon.social)
   • Show GN: 서버 업로드 없이 HEIC/HEIF를 JPG/PNG로 변환해주는 웹 앱 (heif.pages.dev)
   • Pydantic: Simplifying Data Validation in Python
   • 10 Levels of Writing Python Functions
   • Python Sequences: A Comprehensive Guide
   • Python Monorepo Visualization
   • Python's .__call__() Method: Creating Callable Instances
   • 좋아하는 Tech 유튜버가 있나요? (lobste.rs)
   • BNF Notation: Dive Deeper Into Python's Grammar
   • Counting CPU Instructions in Python
   • PEP 686 – Make UTF-8 mode default
   • Microsoft and IBM Release MS-DOS 4.0’s Source Code under the MIT License
   • What's Lazy Evaluation in Python?
   • Better test parametrisation in pytest
   • Asyncio Coroutine Object Methods in Python
   • Django Developers Survey 2023
   • Python News: What's New From March 2024
   • Mise - 다중언어(Polyglot) 버전 관리자 (mise.jdx.dev)
   • How does Linux start a process - ...and how to ptrace the entry point and m3ss w1th da stack.
   • Running C unit tests with pytest
   • 회원 ID, 주문 ID와 같은 고유 식별자는 어떻게 생성하시나요?
   • mac-cleanup-py is a powerful cleanup script for macOS.
   • Modern Test-Driven Development in Python
   • GitHub Copilot Workspace 기술 시험판 공개 (github.blog)
   • 실용적인 테스트 피라미드 (번역)
   • Chrome Devtools를 활용하여 나만의 웹뷰 디버깅 환경 만들기 / 제5회 Kakao Tech Meet
   • Oracle Java Platform Extension for Visual Studio Code
   • The Impact of AI on Developer Productivity: Evidence from GitHub Copilot
   • (🔔당근!) 반가운 중고거래 키워드 알림 만들기
   • 모두가 행복해지는 API 문서 통합과 자동화
   • The only two log levels you need are INFO and ERROR
   • Python's Self Type: How to Annotate Methods That Return self
   • An unbiased evaluation of environment management and packaging tools
   • Develop an Asyncio Echo Client and Server
   • Lectures on Operating Systems
   • Python's raise: Effectively Raising Exceptions in Your Code
   • 웹의 흥망성쇠
   • A Practical Introduction to Web Scraping in Python
   • Netprobe Lite - Simple and effective tool for measuring ISP performance at home.
   • 101 FastAPI Tips by The FastAPI Expert
   • Ubuntu 24.04 Noble Numbat 출시 (releases.ubuntu.com)
   • go-practical-tips - In this repository, you'll find a collection of practical tips for writing better Go code, gathered from personal experiences and shared through tweets.
   • KSS: Korean String processing Suite
3. DevOps
   • Linux Performance Analysis in 60,000 Milliseconds
   • Optimizing JVM for the Cloud: Strategies for Success
   • 레드햇 생성형 AI 도구 라이트스피드, 오픈시프트 및 RHEL로 확장 발표
   • Open-Source APM and Observability Tool Coroot Now GA
   • A comprehensive introduction to CDNs
   • 가상 머신의 성능을 높이는 것도 지구 온난화에 도움이 될까요?
   • pyinfra turns Python code into shell commands and runs them on your servers.
   • Isolating risk in the CPython release process
   • SRE deep dive into Linux Page Cache
   • It’s always TCP_NODELAY. Every damn time. - It's not the 1980s anymore, thankfully.
4. 설계
   • 선물 받는 모든 순간을 세심하게 케어할게요
   • Chapter I: The birth of Parquet
   • 진격의 C커머스 ‘알리’, ‘테무’ UX 전략 살펴보기
   • 컨퍼런스 기반의 아키텍처가 나쁜 이유
   • Async APIs - don't confuse your events, commands and state
   • 허튼짓은 그만: Kafka Streams를 활용한 실시간 이상 로그인 감지 시스템 도입하기
   • 4 Software Design Principles I Learned the Hard Way
   • How Complex Systems Fail
   • 20 Blogs to Learn 20 System Design Concepts:
   • High-Performance Alerting Platform at ThousandEyes
   • ddd-by-example - Tis is a project of a library, driven by real business requirements.
   • Scaling to Count Billions
   • Applying the Facade Pattern on Spotify for Artists
   • Agile Architecture, Lean Architecture, or Both?
   • What Is a Modular Monolith?
   • The Insane Engineering of the F-16
5. 경력 관리와 개발문화
   • 구조조정 수요에 BCG·맥킨지·베인 다시 찾는 SK·LG 등 韓 대기업들
   • 엔씨소프트, 직원 수 90% 수준으로 감축한다
   • [중국의 스타 CEO]⑪ 리옌훙(李彦宏) 바이두(百度) 회장 | 구글도 몰아냈다… 바이두의 독주 이제 시작
   • 문서 작성 및 관리 노하우를 알리는 행사, Technical Documentation Day 참석 후기
   • ‘내가 리더십 책을 쓴다면...’ 현직 IT 리더들이 응답해온 7가지
   • "일본에 기술 빼앗길 판"…'라인 강탈'에 대한민국 발칵
   • "일자리 다 사라질 판"…충격 휩싸인 여의도 증권맨들 [돈앤톡]
   • AI at Work Is Here. Now Comes the Hard Part
   • 리니지식 시스템을 도입한 택배 업계
   • '자율성의 구글'은 옛말…"안정적 대기업, 도전성은 미약"
   • “CIO로 성공하기 위해 필요한 3가지는…” 제록스 CEO 스티브 반드로우차크
   • “AI 프로젝트 실무 적용까지 평균 8개월 걸려” 가트너 설문조사
   • AI 도구가 '화상회의 피로'를 줄이는 데 도움이 될 수 있을까?
   • 개발자가 싫어하는 것
   • GitHub’s Engineering Fundamentals program: How we deliver on availability, security, and accessibility
   • '라인 강탈' 노리는 일본, '눈엣가시' 한국인 이사 내쫓아…다음 행보는?
   • 네이버는 일본에 라인을 어떻게 뺏겼나
   • [단독] “유망하다더니 1년반만에”…KT 메타라운지 문닫았다
   • 신중호 라인야후 대표, 사내이사서 물러나…“네이버 위탁 순차적 종료”
   • SOFTWARE FRICTION
   • Distribution Is King : 유통이 왕이다 (every.to)
   • DORA Metrics At Work - How we doubled our team’s delivery performance within a year as measured by DORA metrics.
   • GN⁺: 14일 무료 평가판으로는 충분하지 않아요 (keygen.sh)
   • Code Of Ethics for SQLite
   • Generate roadmaps with AI - Enter a topic and let the AI generate a roadmap for you
   • FAANG engineers: Looking for something to read this weekend ? Here are 8 articles that will help you get promoted to Staff (IC6) faster:
   • GN⁺: AI Copilot이 코딩 교육의 패러다임을 변화시키고 있음 (spectrum.ieee.org)
   • How to Be a Better Software Engineering Leader
   • '나'와 '우리'를 구별하라 外··· 아마존이 전하는 인터뷰 팁
   • "AI가 코딩 더 잘해"…신입 개발자 '구직난'
   • 아모레퍼시픽은 어떻게 디지털혁신 우등생이 됐나 - 홍성봉 최고디지털기술책임자 "데이터 접근성 개선 최우선 과제로"
   • “구글, 플러터와 다트 인력도 감축”
   • “한국 기업 79%가 생성형 AI를 혁신 촉진 요소로 고려”… 델 테크놀로지스 보고서
   • 조지아 공대가 ‘H100 기반 새 슈퍼컴퓨터를 배치한 이유’
   • '데이터·인재·요구 사항 外'… IT의 전략 목표 달성을 가로막는 장애물 10가지
   • 당신이 바로, 당신이 찾던 기술 코파운더에요 (every.to)
   • Why you need a "WTF Notebook"
   • Don't lie in interviews
   • GN⁺: "제2의 기회"라는 미신 (ft.pressreader.com)
   • 정보화 시대와의 작별: 이제는 평판의 시대다 – Gloria Origgi
   • ☕ awesome-cafe ☕ - 모각코하기 좋은 국내 카페 리스트를 정리한 저장소입니다.
   • 구글이 더 저렴한 인건비를 위해 자체 파이썬 팀을 해고 (reddit.com)
   • 노후 불안한 50대…국가기술자격 응시 20만명 돌파
   • “30대 중반이 늙었다고?”…中기술직 ‘35세의 저주’ 내몰려
   • AWS코리아, ‘교육·인증’ 조직 구조조정…확산 여부에 초점
   • “웃돈 줄테니 인재 모십니다” 이젠 옛말됐다…연봉 상승 한풀 꺾인 ‘이 업계’
   • SI 기업 TOP 20를 알아보자
   • 자동차 4000대 판매 달인들의 비결 “車가 아니라 나를 판다”
   • 생성형 AI 이용 현황 및 노동 대체 가능성에 대한 이용자 인식조사

보안/클라우드/데이터베이스 관련 소식

1. 보안
   • 클라우드 보안의 평판이 나빠진 이유
   • 4,900만 고객 정보 유출… 델 “중대한 위험은 없어”
   • “기업 해킹 여부 원클릭으로 확인 가능”··· KISA, 무료 ‘해킹진단도구’ 배포
   • 가짜 웹 사이트가 85만 개 신용카드 정보를 훔치는 아주 간단한 방법
   • “코드 서명을 쉽고 안전하게” 마이크로소프트 ‘신뢰 서명’ 서비스의 이해
   • GN⁺: 오픈 소스 프로젝트 대상 사회공학 기법을 통한 탈취에 대한 경보 (openssf.org)
   • Humans now share the web equally with bots, report warns amid fears of the ‘dead internet’
   • '다가온 사이버 팬데믹'… AI 딥페이크와 보안 및 신원 확인의 미래
   • GN⁺: 모든 중국 지도의 오류 (medium.com/@anastasia.bizyayeva)
   • 비밀번호 보안을 강화하는 가장 빠르고 쉬운 방법 4가지
   • 버라이즌 ‘2024 데이터 유출 보고서’에서 알 수 있는 5가지 핵심
   • '개발자·CISO 대상'… 美 국립표준기술연구소, AI 위험에 대한 새로운 가이드 발표
   • “설치하면 PC 느려진다?” 안티바이러스에 대한 7가지 낭설 바로잡기
   • [사기지옥]②"자기야로 시작해 부업 할래?"…6일만에 2.3억 앗아간 혼종 사기
   • “안 하나 못 하나” 구글, ‘쿠키 퇴출’ 또 연기
   • pico hacker labs - Open source and managed web services leveraging SSH.
   • GN⁺: Passkeys: 산산조각 난 꿈 (fy.blackhats.net.au)
2. 클라우드
   • GN⁺: 기업들이 GPU에 대한 저렴한 접근을 요구하면서 대체 클라우드가 급성장중 (techcrunch.com)
   • GN⁺: gpudeploy - GPU를 위한 "에어비앤비" (gpudeploy.com)
   • Amazon S3 Unauthorized Request Billing Issue: an Empty S3 Bucket Can Dramatically Increase the Costs
   • 네이버, 2024년 1분기 실적 발표 ··· “클라우드 사업 전년대비 25.5% 성장”
   • 클라우드 비용 가시성이 비즈니스와 고용에 미치는 영향
   • "하이퍼스케일 데이터센터 1,000곳 돌파··· 총 용량 4년마다 두 배" 시너지리서치
   • AWS re:Invent 2023 후기
   • AWS 비용 최적화 Part 1: 버즈빌은 어떻게 월 1억 이상의 AWS 비용을 절약할 수 있었을까
   • Aurora vs. RDS: How to Choose the Right AWS Database for 2024
   • How an empty S3 bucket can make your AWS bill explode
   • 비용 절감…클라우드 송환만이 답은 아니다
   • AIaaS의 유혹
   • Google Cloud accidentally deletes UniSuper’s online account due to ‘unprecedented misconfiguration’
3. 데이터베이스
   • kvql - 키-밸류 DB를 위한 SQL과 비슷한 쿼리 언어 (github.com/c4pt0r)
   • How We Scaled PostgreSQL to 350 TB+ (With 10B New Records/Day)
   • Postgres Message Queue (PGMQ)
   • "하나로 다 된다” 오라클 데이터베이스 23ai 정식 출시
   • "AI 벡터 검색 등 기능 추가"… 오라클, 데이터베이스 23ai 정식 출시
   • 벡터 검색부터 RAG까지...글로벌 DB 시장 'AI 중심' 재편 가속
   • Apache Kvrocks™ - A distributed key value NoSQL database that uses RocksDB as storage engine and is compatible with Redis protocol.
   • pg_back dumps databases from PostgreSQL
   • Peerdb Streams - 심플한 Postgres CDC(Change Data Capture) (blog.peerdb.io)
   • I'm writing a new vector search SQLite Extension
   • Modern SQLite #1: STRICT Tables
   • There are 4 ways you can approach data isolation in Modular Monoliths:
   • GN⁺: SQLite가 Bytecode를 사용하는 이유 (sqlite.org)
   • 읽기 전용 설정으로 MySQL 이전하기
   • What's new in pgvector v0.7.0
   • Hacking on PostgreSQL is Really Hard
   • Releem: MySQL Performance Tool
   • Zero-downtime migrations
   • Common DB schema change mistakes
   • Moving from DynamoDB to tiered storage with MySQL+S3
   • MySQL: Latency and IOPS
   • nxs-data-anonymizer is a tool for anonymizing PostgreSQL and MySQL/MariaDB/Percona databases' dump.

(보너스: When I see people going down the GraphQL road and know how it ends. via @MatthewRideout)

[B급 프로그래머] 5월 1주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

오늘의 짤방: Generative AI in a nutshell via https://blog.crisp.se/

1. 빅데이터/인공지능
   • Visual Language Models on NVIDIA Hardware with VILA
   • 더존비즈온, 세무회계 전문 AI 비서 ‘원AI’ 고도화··· “종합소득세 신고 기능 강화”
   • GN⁺: 모든 중국 지도의 오류 (medium.com/@anastasia.bizyayeva)
   • Claude, iOS용 앱 공개 (apps.apple.com)
   • E2B's Code Interpreter SDK allows you to add code interpreting capabilities to your AI apps.
   • “AI가 나이 확인” 독일 공항 편의점, 연령 제한 상품의 셀프서비스 판매에 AI 적용
   • StoryDiffusion: Consistent Self-Attention for Long-Range Image and Video Generation
   • 제미나이, 안드로이드 사용자 경험을 망치러 온 구글의 구원자
   • Invisible Stitch: Generating Smooth 3D Scenes with Depth Inpainting
   • Llama 3 70B takes the king’s crown 👑 from GPT-4 Turbo
   • 마음AI, 'AI EXPO KOREA 2024'서 한국어 한계 극복한 대형언어모델 '라마 말-허밍버드' 오픈 소스로 공개
   • Paint by Inpaint - Learning to Add Image Objects by Removing Them First
   • Instructor is a Python library that makes it a breeze to work with structured outputs from large language models (LLMs).
   • ‘기대와 실상 사이’··· 생성형 AI에 대한 현실 점검
   • 마음AI, 한국어 한계 극복한 라마기반 LLM 오픈소스 공개
   • Cria - Python으로 간단히 LLM 구동하기 (github.com/leftmove)
   • To improve RAG, you generally need to do two things: 1️⃣ improve retrieval, and 2️⃣ improve generation.
   • We introduce Llama3-ChatQA-1.5, which excels at conversational question answering (QA) and retrieval-augmented generation (RAG).
   • A Hitchhiker’s Guide to Speculative Decoding
   • TURNS OUT THAT EXTREMELY IMPRESSIVE SORA DEMO... WASN’T EXACTLY MADE WITH SORA
   • Code Llama is a family of large language models for code based on Llama 2 providing state-of-the-art performance among open models, infilling capabilities, support for large input contexts, and zero-shot instruction following ability for programming tasks.
   • Automatic Creative Selection with Cross-Modal Matching
   • Accelerating Llama3 FP8 Inference with Triton Kernels
   • Meta Llama 3 models are now available in Amazon Bedrock
   • STT: Stateful Tracking with Transformers for Autonomous Driving
   • 배민선물하기 AI 메시지 제작기: 생성 AI가 센스 있는 선물 메시지를 대신 쓰기까지
   • Data-Efficient Multimodal Fusion on a Single GPU
   • Prompt flow is a suite of development tools designed to streamline the end-to-end development cycle of LLM-based AI applications, from ideation, prototyping, testing, evaluation to production deployment and monitoring.
   • “자율주행으로 시속 250km 포뮬러 경기” 아부다비 A2RL, 자율주행 추월에도 성공
   • SUQL stands for Structured and Unstructured Query Language. It augments SQL with several important free text primitives for a precise, succinct, and expressive representation. It can be used to build chatbots for relational data sources that contain both structured and unstructured information
   • GPT-4 Can't Reason
   • The Anthropic Cookbook provides code and guides designed to help developers build with Claude, providing copy-able code snippets that you can easily integrate into your own projects.
   • An evaluation of RAG Retrieval Chunking Methods
   • PLLaVA: Parameter-free LLaVA Extension from Images to Videos for Video Dense Captioning
   • RAG and RAU: A Survey on Retrieval-Augmented Language Model in Natural Language Processing
   • This is a repository of RALM surveys containing a summary of state-of-the-art RAG and other technologies according to according to our survey paper: RAG and RAU: A Survey on Retrieval-Augmented Language Model in Natural Language Processing .
   • STaRK: Benchmarking LLM Retrieval on Textual and Relational Knowledge Bases
   • Amazon Bedrock, Cohere Command R 및 R+ 모델 정식 출시
   • EfficientViT: Multi-Scale Linear Attention for High-Resolution Dense Prediction (paper, poster)
   • Capabilities of Gemini Models in Medicine
   • Memary - 자동화 에이전트를 위한 롱텀 메모리 (github.com/kingjulio8238)
   • ScrapeGraphAI is a web scraping python library that uses LLM and direct graph logic to create scraping pipelines for websites, documents and XML files.
   • 마이크로소프트-오픈AI "GPT-4, 한국어 토큰 효율화 달성"
   • Google announces Med-Gemini, a family of Gemini models fine-tuned for medical tasks! 🔬
   • The "end game" of LLMs is going to be as follows:
   • Not just NVIDIA: GPU programming that runs everywhere
   • OpenAI Releases New Fine-Tuning API Features
   • ExecuTorch Alpha: Taking LLMs and AI to the Edge with Our Community and Partners
   • Assessing The Potential Of Mid-Sized Language Models For Clinical QA
   • Retrieval Augmented Generation by Pinecone
   • Quantization is quite harmful for LLaMA 3 than for LLaMA 2.
   • 메타 "의료 LLM 메디트론, 라마 2 기반으로 의료계 자원 격차 해소 기대"
   • Welcome to the ChatGPT API Free Reverse Proxy, offering free self-hosted API access to ChatGPT (gpt-3.5-turbo) with OpenAI's familiar structure, so no code changes are needed.
   • Beating Proprietary Models with a Quick Fine-Tune
   • Finetuning Embeddings:
   • StarCoder2-Instruct: Fully Transparent and Permissive Self-Alignment for Code Generation
   • A Survey of Generative Search and Recommendation in the Era of Large Language Models
   • Checkpoint and restore functionality for CUDA is exposed through a command-line utiity called cuda-checkpoint
   • Ollama v0.1.33 - Llama 3 + Phi 3 + Qwen 110B 지원 (github.com/ollama)
   • The Bllossom language model is a Korean-English bilingual language model based on the open-source LLama3. It enhances the connection of knowledge between Korean and English. It has the following features:
   • "더 바쁘고 깐깐해진 고객 잡아라"...유통가도 AI 도입 사활 - [창간 24주년 특집: GenAI 시대]⑤ 물류부터 쇼핑까지 AI 기술 적극 활용
   • [금융 LLM 시리즈 2] 금융 데이터 셋 구축 전략과 학습 예시 공개
   • AIOS, a Large Language Model (LLM) Agent operating system, embeds large language model into Operating Systems (OS) as the brain of the OS, enabling an operating system "with soul" -- an important step towards AGI.
   • Make Your LLM Fully Utilize the Context
   • Lessons after a half-billion GPT tokens
   • torchtitan is a proof-of-concept for Large-scale LLM training using native PyTorch.
   • Running Python on a serverless GPU instance for machine learning inference
   • The 01 Project is building an open-source ecosystem for AI devices. Our flagship operating system can power conversational devices like the Rabbit R1, Humane Pin, or Star Trek computer.
   • 2024년 AI 스타트업을 위한 데이터 수집 전략 (press.airstreet.com)
   • PLLaVA : Parameter-free LLaVA Extension from Images to Videos for Video Dense Captioning
   • LLaVA++: Extending Visual Capabilities with LLaMA-3 and Phi-3
   • Visual Instruction Tuning
   • AdvPrompter: Fast Adaptive Adversarial Prompting for LLMs
   • GN⁺: LLM이 결코 할 수 없는 것 (strangeloopcanon.com)
   • OpenVoice v2 - 다재다능한 인스턴트 음성 복제 (github.com/myshell-ai)
   • Meta Llama 3 발표후, 첫 일주일간 생긴 일 (ai.meta.com)
   • Apple, 기기 내 사용을 목표로 하는 8개의 소형 AI 언어 모델 릴리즈 (arstechnica.com)
   • Can Generalist Foundation Models Outcompete Special-Purpose Tuning? Case Study in Medicine
   • Multistage RAG with LlamaIndex and Cohere Reranking: A Step-by-Step Guide
   • 데미스 하사비스가 말하는 AI — ‘기계에 깃든 정신’ (번역)
   • GraphRAG: Unlocking LLM discovery on narrative private data
   • Qwen1.5-110B : 알리바바의 오픈소스 LLM Qwen1.5 시리즈의 첫번째 100B+ 모델 (qwenlm.github.io)
   • 아는 사람만 쓴다는 퍼플렉시티, 직접 사용해 봤습니다
   • Nitro - Embeddable AI: A fast, lightweight 3mb inference server to supercharge apps with local AI.
   • Multimodal Search with Snowflake Embedding and MAX Engine
   • In RipX DAW, audio is stored in Hit’n’Mix’s revolutionary Rip format, a giant step up from waveforms, enabling full control over all aspects of sound.(RipX DAW PRO AI음악으로 원하는 BGM 쇼츠 음악 10분컷 크리에이터 걱정끝!
   • 애플도 오픈소스 AI 대열에 합류··· LLM ‘오픈ELM’ 공개
   • A Multimodal Automated Interpretability Agent by MIT CSAIL
   • 마이크로소프트, 소형 언어 모델 파이-3 시리즈 발표 "SLM만의 강점 있어"
   • Stable Diffusion 3 API now available as Stable Assistant effort looms
   • 💬 RepoQA - 🚩The First Benchmark for Long-Context Code Understanding.🚩
   • 개선된 어도비 포토샵 AI 기능 직접 써보니…
   • 7 Ways to Make Use of Llama-3 for Free
   • 구글, AI 집중한 구조 개편 시도 "리서치와 딥마인드 AI 팁 통합"
   • LLaVA++: Extending Visual Capabilities with LLaMA-3 and Phi-3
   • 롯데멤버스, 자사 디지털 마케팅 플랫폼에 구글 ‘제미나이’ 적용 발표
   • “코파일럿에 완전히 매료되지 못한 이유는...” AI 미리 도입한 CIO 3인의 조언
   • Colossal-AI provides a collection of parallel components for you. We aim to support you to write your distributed deep learning models just like how you write your model on your laptop.
   • 생성형 AI로 커지는 IT 지출 · · · “헛돈 쓸 가능성 유의해야”
   • Imagenet.int8: Entire Imagenet dataset in 5GB
   • 마이크로소프트, 국내 AI 트랜스포메이션 사례 발표
   • How to Maximize LLM Performance
   • ConsistentID:Portrait Generation with Multimodal Fine-Grained Identity Preserving
   • MGM-13B-HD - The framework supports a series of dense and MoE Large Language Models (LLMs) from 2B to 34B with HD image understanding, reasoning, and generation simultaneously.
   • ‘AI계 구글’ 노리는 퍼플렉시티, 6270만 달러 투자 유치··· SK 외 일본·독일 통신사 협력 강화
   • Open-source LLM Ecosystem at Hugging Face
   • “제조업 98%, 데이터 문제로 협업 및 생산성 향상에 어려움 겪어” 헥사곤 보고서
   • "관건은 데이터"··· 세일즈포스, AI와 데이터 신뢰성 설문조사 발표
   • “더 많이 배워 더 똑똑하다” 메타의 최신 LLM ‘라마 3’ 뜯어보기
   • '퍼즐 맞춰졌다' 인터넷 필요 없는 코파일럿 나올까
   • “구인구직 매칭 서비스에 LLM 활용해보니...” 링크드인이 전하는 생성형 AI 현실 교훈
   • DeepLearning.AI's the batch issue 246
   • 딥엘, 번역 이어 ‘AI 작문 서비스’ 공식 출시 ··· “범용 LLM 보다 비즈니스 영역에 특화”
   • AI ‘쩐의 전쟁’ 최후 승자는?… 미래 성적표에 달렸다
   • 스노우플레이크, 엔터프라이즈급 오픈소스 LLM ‘아크틱’ 출시
   • 엇갈리는 빅테크 희비… MS·구글 웃고, 메타·인텔은 주가 폭락
   • A Recipe for Training Neural Networks by Andrew Karpathy
   • XTuner is an efficient, flexible and full-featured toolkit for fine-tuning large models.
   • LMDeploy is a toolkit for compressing, deploying, and serving LLM, developed by the MMRazor and MMDeploy teams.
   • Cohere Toolkit - Toolkit is a collection of prebuilt components enabling users to quickly build and deploy RAG applications.
   • Write Unit Tests for Your Python Code With ChatGPT
   • Tabby is a self-hosted AI coding assistant, offering an open-source and on-premises alternative to GitHub Copilot.
   • CopilotKit - The Open-Source Copilot Framework: Build, deploy, and operate fully custom AI Copilots.
   • IDM-VTON: Improving Diffusion Models for Authentic Virtual Try-on in the Wild
   • tokenizers by Huggingface - Provides an implementation of today's most used tokenizers, with a focus on performance and versatility.
   • Detect AI Text by Just Looking at it
   • A look at the early impact of Meta Llama 3
   • Retrieval-Augmented Dual Instruction Tuning (RA-DIT)
   • You can use use the mlx-lm package to fine-tune an LLM with low rank adaptation (LoRA) for a target task. The example also supports quantized LoRA (QLoRA)
   • Make Your LLM Fully Utilize the Context
   • 리디 추천 시스템 Phase 2 – Feature Store 도입기
   • T-RAG: Lessons from the LLM Trenches
   • MoDE: CLIP Data Experts via Clustering
   • Unsloth : Finetune Llama 3 with 2x 빠르고 6x 긴 Context, 68% 적은 VRAM (unsloth.ai)
   • The easiest way to get started with LlamaIndex is by using create-llama. This CLI tool enables you to quickly start building a new LlamaIndex application, with everything set up for you.
   • CatLIP: CLIP-level Visual Recognition Accuracy with 2.7x Faster Pre-training on Web-scale Image-Text Data
   • Chat With Product PDF Manuals Using Hybrid Search
   • [창간 17주년/기업 생성형AI 현주소①] 10명 중 6명 '만족'...통번역에 주로 활용
   • 인터넷도 GPU도 필요없다... MS “경량 AI ‘파이3′, 산업 완전히 바꿀 것” 부베크 MS 생성형 AI 부사장
   • Explaining black box machine learning models is critical to gaining leadership's buy-in and trust.
   • How faithful are RAG models? Quantifying the tug-of-war between RAG and LLMs' internal prior
   • How to Finetune phi-3 on MacBook Pro
   • Two decades of recommender systems at Amazon.com
   • 숏클립 생성을 위한 하이라이트 검출 기술 개발기
   • * TriForce: Lossless Acceleration of Long Sequence Generation with Hierarchical Speculative Decoding
   • CoreNet: Apple의 다양한 작업을 위한 포괄적인 심층 신경망 툴킷 (github.com/apple)
   • Jina AI Reader - URL을 LLM 친화적인 입력으로 바꿔주는 도구 (github.com/jina-ai)
   • Running LLM’s Locally: A Step-by-Step Guide
   • Stanford CS25 V4 Transformers course
   • LLaMA Board: A One-stop Web UI for Getting Started with LLaMA Factory
   • Internist.ai 7b is a medical domain large language model trained by medical doctors to demonstrate the benefits of a physician-in-the-loop approach. The training data was carefully curated by medical doctors to ensure clinical relevance and required quality for clinical practice.
   • PyTorch 2.3 Release Blog
   • Arctic is a dense-MoE Hybrid transformer architecture pre-trained from scratch by the Snowflake AI Research Team.
   • Cohere Toolkit - Toolkit is a collection of prebuilt components enabling users to quickly build and deploy RAG applications.
   • The “it” in AI models is the dataset.
   • 음악감상의 패턴… 강렬한 곡은 ‘여름-낮-男’, 차분한 곡은 ‘겨울-밤-女’[박재혁의 데이터로 보는 세상]
   • Model Cards & Prompt formats for Meta Llama 3
   • 진격의 오픈소스 LLM...라마3 반응 폭발적·스노우플레이크도 출사표
   • Adobe released new features:
   • Understanding Large Language Models - A Cross-Section of the Most Relevant Literature To Get Up to Speed
   • Automated Commit Message Generation with Large Language Models: An Empirical Study and Beyond
   • Rules of Machine Learning: Best Practices for ML Engineering(매우 실용적인 교훈이 담겨있음)
   • Phi-3 has "only" been trained on 5x fewer tokens than Llama 3 (3.3 trillion instead of 15 trillion)
   • CoreNet is a deep neural network toolkit that allows researchers and engineers to train standard and novel small and large-scale models for variety of tasks, including foundation models (e.g., CLIP and LLM), object classification, object detection, and semantic segmentation.
   • Penzai is a JAX library for writing models as legible, functional pytree data structures, along with tools for visualizing, modifying, and analyzing them.
   • GaussianTalker: Speaker-specific Talking Head Synthesis via 3D Gaussian Splatting
   • Detecting and redacting PII using Amazon Bedrock
   • Introducing more enterprise-grade features for API customers by OpenAI
   • The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions
   • GN⁺: Phi-3 기술 보고서 (arxiv.org)
   • Feature Test for Phi-3-mini-4k-instruct using Llamaindex
   • SnapKV: LLM Knows What You are Looking for Before Generation
   • DEVELOPING RAPIDLY WITH GENERATIVE AI
   • GN⁺: LLM 기술의 금융 시장 활용 (thegradient.pub)
   • 메타 "AGI 도약 방법 발견...'트랜스포머'와 다른 아키텍처 개발 중"
   • Safely repairing broken builds with ML
   • Show GN: Corely AI, 유튜브 영상을 10초 만에 핵심 정리해주는 익스텐션 출시 (크롬, 웨일) (chromewebstore.google.com)
   • The Tokenizer Playground - Experiment with different tokenizers (running locally in your browser).
   • 🖥️ WebLlama🦙 - Building agents that can browse the web by following instructions and talking to you
   • Local RAG with LlamaIndex and Microsoft phi-3 via Ollama
   • Multi-Head Mixture-of-Experts
   • GN⁺: 구글 검색을 죽인 남자 (wheresyoured.at)
   • Graphist - Graphic Design with Large Multimodal Model
   • UVA FOUNDATION MODELS COURSE - MSc in Artificial Intelligence for the University of Amsterdam.
   • Prompt2Model - Generate Deployable Models from Instructions
   • MultiBooth: Towards Generating All Your Concepts in an Image from Text
   • SPLATE: Sparse Late Interaction Retrieval
   • Mini-LLaMA MLX - A simple implementation of LLaMA 2 that you can run experiments with on your MacBook.
   • Mastering Prompt Compression with LLM Lingua: A Deep Dive into Context Optimization
   • Rotary Embeddings (RopE) is one of the Fundamental Building Blocks of LlaMA-3 Implementation 🦙
   • Penzai - 신경망 구축, 편집, 시각화를 위한 JAX 도구 키트 (github.com/google-deepmind)
   • How Good Are Low-bit Quantized LLaMA3 Models? An Empirical Study
   • Microsoft Introduces Phi-3, LLM That Runs on the Phone
   • If you just started playing with Quantized LLMs on local machine and are confused about which model formats to download 🤔- here are some rough points
   • This page is a distribution site for the ground-truthed dataset for use in document analysis and recognition experiments.
   • TED 2064 - OpenAI Sora로 만든 TED 홍보 영상 (twitter.com/TEDTalks)
   • morphic - 챗봇 형태의 검색 엔진
   • “자체 모델 구축보다 '챗GPT'나 '라마 2' 호스팅이 저렴...월 750만원선”
   • Cosine similarity clearly explained (a go-to metric for vector similarity):
   • A Trivial Jailbreak Against Llama 3
   • Start making music with AI - In-browser text-to-music generation
   • Sparrow is an innovative open-source solution for efficient data extraction and processing from various documents and images. It seamlessly handles forms, invoices, receipts, and other unstructured data sources.
   • 글로벌 AI 플랫폼 1위는 챗GPT…학습·코딩도 20위 내 '선전'
   • GN⁺: Llama 3 8B는 Wizard 2 8x22B에 필적하는 성능을 보임 (huggingface.co)
   • Pretzel - 데이터 탐색/시각화를 위한 오픈소스 오프라인 브라우저 기반 도구 (github.com/pretzelai)
   • llmlingua - This great lib from Microsoft can 𝗰𝗼𝗺𝗽𝗿𝗲𝘀𝘀 your prompt massively.
   • ControlNet++: Improving Conditional Controls with Efficient Consistency Feedback
   • HTML을 LLM (GPT, Gemini, Claude) 에게 전달해서 요약을 부탁하거나 자동화 검색, 웹페이지 자동화 제어를 개발할 때에 전송 비용을 아끼기 위해서 HTML 을 LLM이 읽기 좋게 요약하는 "html-torch" 라는 오픈소스를 개발했습니다.
   • Llama3와 LangChain을 이용하여 한국어 Chatbot 만들기
   • Cosine Similarity and Text Embeddings In Python with OpenAI
   • 한달간 '소라' 테스트한 영화감독 "아직 영화 제작은 무리"
   • GN⁺: VASA-1: 한장의 사진과 오디오로 말하는 얼굴 실시간 생성하기 (microsoft.com)
   • Using and Finetuning Pretrained Transformers
   • Llama 3 는 이전 버전에 비해 검열이 심하지 않음 (ollama.com)
   • Meta AI, Llama 3로 업그레이드 되다 (about.fb.com)
   • Segment Anything WebGPU - In-browser image segmentation w/ 🤗 Transformers.js
   • 마크 주커버그 인터뷰 - Llama 3, 100억달러 모델을 오픈소싱한 이유 (dwarkeshpatel.com)
   • Building Meta’s GenAI Infrastructure
   • DREAM: Distributed RAG Experimentation Framework
2. 하드웨어
   • 와이파이 6E 배포를 위한 7가지 팁
   • The AI Gadget That Can Make Your Life Better—and Two That Definitely Won’t
   • 한국IDC “생성형 AI, 서버 시장 판도 바꿔··· 2028년 국내 서버 시장 4조 7,246억원 규모”
   • x86 팬이 퀄컴 스냅드래곤 X 엘리트를 환영하는 이유
   • “지난해 국내 서버 시장 5.1% 감소…GPU 투자 쏠림ㆍ공급 지연 원인”
   • Axion Processor: Google Announces Its First Arm-Based CPU
   • AI PC가 화두?··· 업계 전문가 “관심은 많지만 내년까지 도입 어려울 것”
   • GN⁺: TSMC, 백사이드 전력 공급을 도입한 1.6nm 공정 기술 공개 (tomshardware.com)
   • “비싼 만큼 값어치 한다” 울트라와이드 모니터의 모든 것
   • “애플 워치가 있는 한” 휴대용 AI 기기엔 미래가 없다
   • 인텔, 세계 최대 뉴로모픽 시스템 '할라 포인트' 구축 "AI 추론 50배 더 빠르게"
   • 모든 유선 전화를 디지털화해야 할 때
   • MSX Story - 1
   • 2024년 A18 칩의 청사진…얼마나 똑똑해질까?
   • 아이폰을 픽셀 8 프로로 바꾼 후 깨달은 5가지
   • 블루투스 시장도 경기 침체 직격탄…“2023년 출하량 예상보다 4억 대 적어”
   • TSMC races for chip supremacy with new A16 process for AI-ready future
   • '갖다 대면 착 붙는' 마그네틱 USB-C 어댑터를 쓰면 안 되는 이유
   • Tiny but mighty: The Phi-3 small language models with big potential
   • Advanced RAG 10: Corrective Retrieval Augmented Generation (CRAG)
   • Imandra gives AI the power of reasoning - Large Language Models (LLMs) use Imandra to build mental models and reason about them, unlocking the incredible potential of generative AI for industries where correctness and compliance matter.
   • seemore: Implement a Vision Language Model from Scratch
   • 성장형 그래픽 ‘인텔 아크 A-시리즈’, 지난 1년간 발걸음 [권용만의 긱랩]
   • Interstellar 8-Track: How Voyager's Vintage Tech Keeps Running
   • IP-Adapter: Text Compatible Image Prompt Adapter for Text-to-Image Diffusion Models
   • LongEmbed - Extending Embedding Models for Long Context Retrieval
   • Voyager 1's incredible journey continues after NASA patches code in 46-year-old chip from a distance of 15 billion miles
3. 읽을거리
   • 요물, 우리를 홀린 고양이 진시 도록
   • "만화·웹툰·웹소설만 돈 된다", 끝나지 않는 출판시장 침체기
   • KTX는 점점 느려지고 있다
   • 2023년 출판시장 통계보고서 발간
   • GN⁺: Ozempic, 담배ㆍ제과ㆍ주류 산업 위협하는 게임 체인저 (curingaddiction.substack.com)
   • “오픈채팅 사용자 7%, 광고 보고 제품 구매한 적 있다”
   • 31살에 전세사기 두 번째…다가구 세입자 위한 나라는 없다
   • GN⁺: 애플의 폐쇄적 생태계(walled garden) 붕괴 조짐 (theverge.com)
   • 최형광 칼럼 | 초저가 시장의 탄생(feat 차이나 플랫폼)
   • 원달러 환율이 빠르게 오르는 비밀
   • 2024 대한민국 웰스 리포트 by 하나금융경제연구소
   • GN⁺: 아무도 책을 사지 않습니다 (elysian.press) - Penguin vs. 법무부 재판으로 보는 출판업계 인사이트
   • 레드테크의 역습…中 '14억 실험실'이 움직인다
   • 만약 내 다리가, 3시간 만에 '마비'된다면…[남기자의 체헐리즘]

(보너스: The rule of thumb. A quick guide to approximate measurements using your hand. via @Rainmaker1973)

EOB