[독서광] 대격변 AI 시대, 데이터로 사고하고 데이터로 리드하라

이번 주는 대격변 AI 시대, 데이터로 사고하고 데이터로 리드하라를 소개하겠다.

방송 스크립트는 전체 공개되어 있으며, 슬라이드셰어에서 보거나 다운로드 받을 수도 있다.

하이라이트를 요약 정리하면 다음과 같다:

• 00:00 도입
• 00:55 한 페이지 요약
• 06:01 이 책의 목차
• 08:10 무엇이 이 책을 흥미롭게 만드는가?
• 11:10 대상 독자
• 12:09 결론과 마무리

EOB

[B급 프로그래머] 5월 4주 소식(개발/설계/경력관리/보안/클라우드/데이터베이스 관련 소식 정리)

(오늘의 짤방: 키캡 원래대로 다시 끼워놓고 눌러보기 전 까지 이상함을 못느꼇다. via @the_paper__)

개발 관련 소식

1. 팁과 유틸리티
   • 무료 윈도우 튜닝 ‘PC 매니저’ 새 버전…“3가지 방식으로 파일 정리 기능 강화”
   • 💻개발자가 사용하는 맥북 프로그램 타래💻
   • "일주일에 한 번" 스마트폰 전원을 꺼야 하는 이유
   • 사진 찍어 놓듯 사용자를 기억하는 윈도우 리콜, 윈도우 11 도입 예정
   • 애플, AI 기반 접근성 신기능군 발표 '시선 추적, 음악 햅틱, 음성 단축키'
   • "의외로 유용한" 윈도우 노트북 터치패드 제스처 활용팁
   • 아이폰의 스팸 문자 필터링하기
   • 마이크로소프트 워드, 붙여넣기 업데이트 "원본 서식 유지가 기본값"
   • “전면 카메라로 시선 추적…” 애플, iOS 18에 도입될 새로운 접근성 기능 공개
   • 구글, ‘웹’ 검색 필터 출시…텍스트 기반 결과만 “깔끔하게” 표시한다
   • GN⁺: 애플, 눈 추적/음악 햅틱/음성 단축어를 포함한 새로운 접근성 기능 발표 (apple.com)
   • With Gray you can pick between the light appearance and the dark appearance on a per-app basis with the click of a button.
   • GN⁺: iPad Pro 리뷰 아님: iPadOS가 여전히 기본을 제대로 못하는 이유 (macstories.net)
   • Kroki - Creates diagrams from textual descriptions!
   • Super Mario 64 fans finally open the game’s ‘unopenable’ door, 28 years later
2. 프로그래밍
   • “브라우저 보편성+네이티브 기능성” 프로그레시브 웹 앱의 이해와 맛보기
   • '어느 날 갑자기 뜨는 404 오류'··· 링크 손상은 IT의 잘못일까?
   • Slidev - Presentation Slides for Developers
   • How to create Dashboard in Python from PostgreSQL
   • vaultwarden - Alternative implementation of the Bitwarden server API written in Rust and compatible with upstream Bitwarden clients
   • JAVA DESERIALIZATION TRICKS
   • Professional Programming - about this list
   • 파워 플랫폼 업데이트가 암시하는 엔터프라이즈 코딩의 미래
   • AI-Assisted Assessment of Coding Practices in Modern Code Review.
   • Upgrading jQuery: Working Towards a Healthy Web
   • 패키지 매니저의 과거, 토스의 선택, 그리고 미래
   • 매력적이지만 버려야 할 10가지 나쁜 프로그래밍 습관
   • Welcome to the repository for Sudo for Windows 🥪. Sudo for Windows allows users to run elevated commands directly from unelevated terminal windows.
   • The Ages of Programming Language Creators
   • Quary - 엔지니어를 위한 오픈소스 BI (github.com/quarylabs)
   • Python Sequences: A Comprehensive Guide
   • metronomes - This library offers the easiest way to run regular tasks.
   • Lessons learned reinventing the Python notebook
   • Scrapy Vs. Crawlee
   • What Are CRUD Operations? Quiz
   • Garbage collectors are scary
   • An Intro to Logging with Loguru
   • Why do prototypes suck?
   • Clever code is probably the worst code you could write
   • Python: Show all subclasses of a class
   • Automatically push code changes during live coding
   • Python's unittest: Writing Unit Tests for Your Code
   • Mountaineer 🏔️ is a framework to easily build webapps in Python and React. If you've used either of these languages before for development, we think you'll be right at home.
   • Pathways, 애플 플랫폼 개발자를 위한 첫걸음 (developer.apple.com)
   • Show GN: YOCO - 복사하면 자동으로 파일 이름을 주석으로 추가해주는 VSCode extension (marketplace.visualstudio.com)
   • 코드와 함께 살펴보는 프론트엔드 단위 테스트 – Part 1. 이론 편
   • A Different Perspective of Stack Memory in .NET
   • Light speed with Python and JS
   • GraalPy, the GraalVM Implementation of Python
   • Optimizing PHP applications for performance
   • SQL in Jupyter Notebooks.
   • Nmap Dashboard with Grafana
   • Real-Time Brainwave Visualization: Integrating Muse EEG with Python
   • HeadVer - 기민한 프로덕트 팀을 위한 새로운 버저닝 시스템
   • unsafe-python - A library to assist writing memory-unsafe code in "pure" python, without any imports (i.e. no ctypes etc.)
   • Build Command-Line Interfaces With Python's argparse
   • GN⁺: Winamp 소스 코드 공개 발표 (about.winamp.com)
   • Python Dictionaries Quiz
   • How to Get and Use the Current Time in Python
   • Write 8-bit code in your browser.
   • Python's "in" and "not in" Operators: Check for Membership
   • Deno by Example - A collection of annotated Deno examples, to be used as a reference for how to build with Deno, or as a guide to learn about many of Deno's features.
   • Mastering Exception Handling in C#: A Comprehensive Guide
   • Python REST APIs With Flask, Connexion, and SQLAlchemy – Part 2
   • Headerless-C Compiler
   • Don't Mock Machine Learning Models In Unit Tests
   • fastapi-cli - Run and manage FastAPI apps from the command line with FastAPI CLI. 🚀
   • Getters and Setters: Manage Attributes in Python
   • GN⁺: Rate Limit 알고리듬을 시각화해서 알아보기 (smudge.ai)
   • GN⁺: Rust 학습을 위한 100가지 연습 문제 (rust-exercises.com)
   • Pydantic: Simplifying Data Validation in Python
   • Python's Built-in Exceptions: A Walkthrough With Examples
   • How Netflix Really Uses Java
   • 구글, 안드로이드 15 공식 발표··· 주요 신기능은?
   • 쏘카일레클과 Go
   • IT-TOOLS: Handy Tools for Developers
   • Bytewax is a Python framework that simplifies event and stream processing.
   • Python's doctest: Document and Test Your Code at Once
   • Python's __all__: Packages, Modules, and Wildcard Imports
   • django-harlequin - Launch Harlequin, the SQL IDE for your Terminal, with your Django database configuration.
   • 오픈소스 ABC User Feedback에 적용한 모노리포 구조 소개
   • Python's Built-in Exceptions: A Walkthrough With Examples
   • How to Get the First Match From a Python List or Iterable
   • 풀타임 근무 어머님이 부업으로 만든 스위치 게임
   • Datetimes with Timezones in Python
   • Linear Algebra in Python: Matrix Inverses and Least Squares
   • Python Dependency Injection
   • Understanding Unix Garbage Collection and its Interaction with io_uring
   • Python deque tutorial
   • Long-term Rust Project Maintenance
   • Neat parallel output in Python
   • Hunting for the Right Compiler, Part 3
   • Temporal Python 1.0.0 – A Durable, Distributed Asyncio Event Loop
   • The new REPL in Python 3.13
   • Visual Find - vfind is a tool written in python based on nerd_tree.
   • Half Life 1 SDK LICENSE
   • Podman 5 Improves Performance and Stability on Mac and Windows through Partial Rewrite
   • Improvements to static analysis in the GCC 14 compiler
   • [독서광] 요즘 AI 페어 프로그래밍(본인이 작성한 글)
   • How to Split a Python List or Iterable Into Chunks
   • Python Lambda Functions Quiz
   • Golang GC 튜닝 가이드
   • C from Scratch
   • Node 버전 관리자 5종 비교 : NVM, N, FNM, Volta, PNPM (pavel-romanov.com)
   • JDK Http Server Utilities: Utilities for working with the JDK's built-in HTTP server. Requires Java 21+
   • Python and TOML: New Best Friends
   • How to Read and Write Parquet Files with Python
   • Sleepsort: Sorting while sleeping
   • GN⁺: Superfile - 화려하고 멋진 터미널 파일 관리자 (github.com/MHNightCat)
   • 린트 적용으로 코드 대량 변경 시 AST를 이용해 검증하기
   • How to read environment variables from Node.js
   • Building a URL Shortener With FastAPI and Python (Overview)
   • pyts is a Python package dedicated to time series classification.
3. DevOps
   • How Google Does Chaos Testing to Improve Spanner's Reliability
   • Service Meshes Decoded: a performance comparison of Istio vs Linkerd vs Cilium
   • graftcp can redirect the TCP connection made by the given program [application, script, shell, etc.] to SOCKS5 or HTTP proxy.
   • How Kubernetes picks which pods to delete during scale-in
   • Tag-Based Python CI/CD Pipeline.
   • Piko - Ngrok의 오픈소스 대체제 (github.com/andydunstall)
   • goldboot is approximately what you would get if docker and packer were mixed together. Instead of building containers or virtual machines, goldboot builds images for real hardware.
   • 서버 증설 없이 처리하는 대규모 트래픽
   • Welcome to iximiuz Labs 🚀 - Training Challenges for Building DevOps and SRE Skills
   • How to Flush the Output of the Python Print Function
   • Polyglot Programming with WebAssembly: A Practical Approach
   • Poor mans autoreload server in single file python on linux
4. 설계
   • 운송 관리 시스템(TMS)의 탄생부터 현장에서 사용하기까지
   • GN⁺: UI 밀도(Density)의 의미와 디자인 방법 (matthewstrom.com)
   • Keeping it 100(x) with real-time data at scale
   • Lamport on writing "Time, Clocks, and the Ordering of Events in a Distributed System"
   • Awesome Software and Architectural Design Patterns
   • The C4 model - Misconceptions, misuses, and mistakes
   • Tomato Architecture - A Pragmatic Approach to Software Design
   • A Simple Framework for Architectural Decisions
   • TypeSpec: a Practical TypeScript-Inspired API Definition Language
   • A Brief History of Airbnb’s Architecture
   • Understanding the Redpanda Data Transform architecture
   • 커뮤니티실 API Design-First 접근방식 정착기
   • Evolution of Monolithic Systems - The Entropy of Software in Tech Startups
   • 사용자를 '중독'시키는 UX 전략
   • Code sharing
   • Developing Restful APIs: A Comprehensive Set of Guidelines by Zalando
5. 경력 관리와 개발문화
   • 인터뷰 | ‘돈 버는’ 데이터 조직을 만들다··· 김상우 쏘카 데이터비즈니스 본부장
   • “AI를 제대로 활용할 준비가 된 기업은 10곳 중 4곳에 불과”
   • 네이버의 진짜 위기는 라인이 아니다.
   • 서커 펀치 프로덕션의 개발 비법, 프로그래밍 규칙의 일대기
   • “인터넷은 의외로 수명이 짧다” 웹페이지 38%, 10년 지나면 ‘접속 불가’
   • GN⁺: 2013년에 존재했던 웹페이지 중 38%가 10년 후 더 이상 접근 불가 (pewresearch.org)
   • 'AI 급부상, 급여 정체, 원격 근무 선호'… IT 일자리 현황은?
   • “너, 가짜사업자 된 거야”···노동법 피하는 ‘가짜 3.3’ 꼼수, 모든 곳에 있었다
   • "미국 경제 매우 위험하다"…'폭탄급 경고' 나온 이유
   • iTerm2, 코어에서 AI 기능 제거하고 별도의 플러그인 작성 (gitlab.com)
   • iTerm2 와 AI 과대 광고 (xeiaso.net)
   • "조직 90% 이상이 IT 기술 위기, 리더부터 ‘학습 문화’ 바꿔야" IDC
   • ‘지식 조합’이 필요하다, ① 지식 관리와 구분하기
   • ‘지식 조합’이 필요하다, ② 지식 관리의 8가지 오해와 진실
   • 👶🏻 신입 개발자 전공 지식 & 기술 면접 백과사전 📖
   • 기획 등 PPT작업 많이 하는 직무이신분들께 소소한 공부법(?) 공유... 기업공시채널KIND를 보면 기업들이 설명회를 위한 PPT자료를 올려두는데, 이러한 PPT를 보고 어떤 데이터를 어떻게 시각화 했는지, 무슨 메세지를 전하고 싶은지 등 공부해보기 좋습니다!
   • Deep Learning Interviews: Hundreds of fully solved job interview questions from a wide range of key topics in AI
   • “설마 했는데, 결국 현실 됐다” 직장인 소득 마이너스…1분기 가구 실질소득 7년來 최대폭 감소
   • 잘 하는 것, 하고 싶은 것, 해야 하는 것
   • “업무만 정하면 방법은 AI가 찾는다” 코파일럿+ PC가 몰고 올 일터의 변화
   • “아득한 계층 사다리, 오를 방법은 이것뿐”...13분기 연속 늘어난 교육비
   • 네이버 뉴스, 3월까지 총선 특수 없었다
   • 잦은 과업변경탓…공공SW 분쟁 줄잇는다
   • 10 lessons from 12 years at Google
   • 베트남 개발자 200명 한국 온다…“中企 인력난 해소”
   • “많이 뽑아놨는데 일이 없네” 회계법인 최대 고민된 인건비
   • Basic Data Types in Python: A Quick Exploration
   • 워라밸은 없다
   • 처음 인디 게임 프로젝트를 개발하는 게임 프로그래머의 대표적인 실수
   • 고용률 ‘최고’라는데…60대보다 힘든 40대 취업[송종호의 쏙쏙통계]
   • “트위터 아류작으로 전락··· 탈중앙 투자 노력 없어” 잭 도시, 블루스카이 떠난 이유 밝혀
   • AI 코딩 도구는 대체제가 아니라 '인턴'이다
   • '권한 부족, 예산 조달 外'… 조직에서 CTO의 발목을 잡는 요인은?
   • 사명 바꾸고 신기술 알리고… IT서비스 기업들이 달라졌다
   • "막말·갑질보다 더 싫어" Z세대 직장인이 뽑은 최악의 선배는
   • 베이비부머보다 많아진 '주머', 1.5배 많이 벌지만 일은 25% 덜한다
   • 딜로이트의 44개국 23,000명의 직장인 대상 설문조사 최신 보고서
   • Use Engineering Strategy to Reduce Friction and Improve Developer Experience
   • OpenAI와 Tesla의 AI 조직의 핵심 연구원이였던 Andrej Karpathy의 학부생을 위한 조언
   • “틈날 때 부업, 수익 1000만원” 홍보의 진실
   • middleware: ✨ Open-source developer productivity platform for engineering teams ✨
   • GN⁺: 구글의 Design Docs 문서 작성 문화 (2020) (industrialempathy.com)
   • 주니어 개발자 인터뷰 관련 모음
   • 스타트업 성공 전략의 80%는 실수를 피하는 것 (longform.asmartbear.com)
   • 동기부여 다루기
   • Understanding Software
   • 왜 다들 자기가 성공했다고 할까?
   • 질문을 던져라, 질문을 허용하라

보안/클라우드/데이터베이스 관련 소식

1. 보안
   • 줌, 양자 컴퓨팅 발전에 선제적 대응…"PQC 도입으로 플랫폼 보안 강화"
   • "미 NIST, 오는 7월 PQC 알고리즘 표준 3종 발표" 블룸버그
   • Binary Exploit Development Course
   • 10 GitHub Security Best Practices
   • API Security Checklist
   • jQuery Real Person - A jQuery plugin that enhances an input field to help reduce automated form submission.
   • “기업 91%, 보안팀에서 AI 사용”··· 스플렁크, 2024년 보안 현황 보고서 발표
   • GHOSTRACE - Exploiting and Mitigating Speculative Race Conditions
   • 습관처럼 클릭하기 전에…소셜 엔지니어링 공격의 3가지 신호
   • AI 보안기업 에버스핀, 데이터 스크래핑에 대한 해법과 방지 성과 발표
   • “1년에 18억 달러” 애플 사기 방지 보고서와 서드파티 앱스토어
   • WebGoat is a deliberately insecure web application maintained by OWASP designed to teach web application security lessons.
   • GN⁺: 애플과 구글, iOS 및 Android에서 원치 않는 추적 경고 지원 제공 (apple.com)
   • 아파트 40만채 ‘월패드’ 해킹해 거실 촬영한 남자
2. 클라우드
   • Mountpoint for Amazon S3
   • 클라우드 기반 생성형 AI의 성능을 개선하는 방법
   • AWS “엔비디아 칩 주문 중단 아니다, 블랙웰 도입할 것”
   • "전 세계 퍼블릭 클라우드 지출, 2030년 이전 1조 달러 돌파 전망" 가트너
   • AWS Introduces Amazon Bedrock Studio for Building Generative AI Applications
   • “기술력 대신 IDC 장사”…KT클라우드 향한 불신, 김영섭-최지웅 체제서 바뀔까?
   • MS '애저 코발트 100 기반 VM' 출시…"성능 40% 향상"
   • New models added to the Phi-3 family, available on Microsoft Azure
   • 버너 보겔스 "비용이란 제약 조건이 창의성 만든다"
   • CVE-2024-4367 – Arbitrary JavaScript execution in PDF.js
   • Aurora/RDS 전문가의 GCP Cloud SQL 이전기
   • AWS Lambda Under the Hood
   • 빅3 너머의 클라우드 환경
   • 몽고DB, AWS 및 구글 클라우드와 맞손··· 생성형 AI 애플리케이션 구축 기능 강화
   • GPU가 필요하다면, 마이크로클라우드를 주목하자
   • GN⁺: Amazon S3, 여러 HTTP 오류 코드에 대한 비용 청구 중단하기로 (aws.amazon.com)
   • Unraveling the Enigma: Debunking Myths Surrounding Lambda Cold Starts
3. 데이터베이스
   • “SQL 50주년” 구조화 쿼리 언어의 다음 단계를 생각할 때
   • "가볍고 빠르다" SQL라이트 기초 다지기
   • Default Sort Order in Db2, SQL Server, Oracle & Postgres 17
   • GN⁺: pg_timeseries: PostgreSQL용 오픈소스 시계열 확장 기능 (tembo.io)
   • Postgres 쿼리 1,000배 더 빠르게 만들기 (mattermost.com)
   • Embedded MySQL를 이용해 테스트 환경 구축해보기
   • Redka aims to reimplement the good parts of Redis with SQLite, while remaining compatible with the Redis API. This release adds support for set commands.
   • Introducing pg_timeseries: Open-source time-series extension for PostgreSQL
   • 13 Tips to Improve PostgreSQL Insert Performance
   • Mastering Relational Database Design: A Comprehensive Guide
   • Tembo is multi-workload Postgres—OLTP, Message Queue, Vector Search, RAG, OLAP, Time Series, and Data Warehouse workloads—composed from OSS Postgres ecosystem
   • Implementing MVCC and major SQL transaction isolation levels
   • Understanding How Vector Databases Work!

EOB

[B급 프로그래머] 5월 3주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

오늘의 짤방: current state of stochastic parrot LLMs via @intrstllrninja

1. 빅데이터/인공지능
   • Jina Reader - Get LLM-friendly input from a URL or a web search. Improve the factuality of your agent, RAG, GenAI system with a simple prefix.
   • Vision Foundation Models: When Does Size Matter?
   • It’s easy to tamper with watermarks from AI-generated text
   • It's surprisingly difficult for AI to create just a plain white image
   • Temporal Data Meets LLM - Explainable Financial Time Series Forecasting
   • Fine-tune a Llama-2 language model with a single instruction
   • The lifecycle of a code AI completion
   • Cody - Code AI with codebase context: "an AI pair programmer that actually knows about your entire codebase's APIs, impls, and idioms"
   • MIT License text becomes viral “sad girl” piano ballad generated by AI
   • After AI beat them, professional Go players got better and more creative
   • AI's new power of persuasion: Study shows LLMs can exploit personal information to change your mind
   • Stanford’s ReFT fine-tunes LLMs at a fraction of the cost
   • Benchmark for general purpose AI chat model
   • Effort - A possibly new algorithm for LLM Inference
   • 50+ Open-Source Options for Running LLMs Locally
   • AI shakes up corporate boards
   • Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention
   • Google’s new technique gives LLMs infinite context
   • Phi-3 Technical Report: A Highly Capable Language Model Locally on Your Phone
   • ROC and AUC are important concepts for evaluating classification models in business (e.g. lead scoring). In 6 minutes, I'll share what took me 60 days to figure out.
   • Multimodal Structured Outputs: GPT-4o vs. Other GPT-4 Variants
   • “문서 처리 돕는 AI 도구, 98% 정확도 이르렀다” 세지윅 리아 쿠퍼 CDO
   • 🧑‍🌾 DataGrower - Grow your own datasets
   • 생성형 AI 전략 확장하는 애플, 아이폰 시리의 챗GPT 지원 논의
   • “얼굴 표정, 손글씨도 인식…” 오픈AI, GPT-4o 발표
   • I just updated my LLM performance chart. The chart now includes: • elo score • tokens per second • total cost(평가에 사용한 코드
   • “생성형 AI와 검색의 결합” 정보의 디스토피아를 바꾼다
   • 오픈소스 생성형 AI에서 주의해야 할 10가지 사항
   • 비자, 고객 데이터 활용하기 위한 AI 계획 발표… 전문가 "소비자 이득 불분명"
   • “적인가 동지인가” 마이크로소프트와 오픈AI의 복잡한 관계
   • 생성형 AI의 개발 프로세스 이해하기
   • 구글 I/O의 프로젝트 아스트라, 현실에 발 디딘 기술일까
   • AI 데이터 플랫폼 기업 웨카, 1억 4천만 달러 투자 유치··· “생성형 AI로 수요 급증”
   • 삼성SDS, 생성형 AI로 인천공항공사 업무 혁신
   • OpenAI의 ChatGPT MacOS App 일부 사용자 대상 공개 및 출시 (help.openai.com)
   • ‘제미나이의 시대’ 선언한 구글...121번 ‘AI’ 외쳤다
   • With the Google Developer Program, you can now access new benefits at no cost - including Gemini - to generate summaries of documentation, explain sample code, & answer product Qs.
   • Aichat: All-in-one AI-Powered CLI Chat & Copilot
   • 머신러닝으로 만드는 개인화 추천 시스템
   • How generative AI expands curiosity and understanding with LearnLM
   • Yi 1.5 - 차세대 오픈소스 이중언어 LLM (github.com/01-ai)
   • Open Source RAG with Ollama by Weaviate(Verba 1.0.0)
   • GN⁺: 순수 NumPy로 구현하는 라마 3 모델 (docs.likejazz.com)
   • Protecting users with differentially private synthetic training data
   • Video-LLaVa is an open-source multimodal LLM trained by fine-tuning LlamA/Vicuna on multimodal instruction-following data generated by Llava1.5 and VideChat.
   • Parler-TTS is a lightweight text-to-speech (TTS) model that can generate high-quality, natural sounding speech in the style of a given speaker (gender, pitch, speaking style, etc).
   • A Watermark for Large Language Models(API 문서)
   • Multimodal Augmentation for Documents: Recovering “Comprehension” in “Reading and Comprehension” task
   • GN⁺: GPT-4o의 메모리 혁신 – 바늘 더미 속 바늘 (nian.llmonpy.ai)
   • 미디어 산업을 감염시키는 AI 기반 콘텐츠 괴물, AdVon (futurism.com)
   • 챗GPT 답변, 사용자 불만은… ① 질문 의도 오해 ② 깊이 부족 ③ 부정확[박재혁의 데이터로 보는 세상]
   • 영상 편집, 음악 제작 등 창작자에게 필수 AI툴 개발 전쟁
   • 생성형 AI를 활용한 비즈니스의 현주소
   • 딥러닝 추천 모델에 인과추론 접목시켜 전환율 예측 성능을 향상시키자!
   • Local RAG From Scratch - Develop and deploy an entirely local RAG system from scratch
   • Binary Embeddings: All the AI, 3.125% of the Fat
   • cuDF is a Python GPU DataFrame library (built on the Apache Arrow columnar memory format) for loading, joining, aggregating, filtering, and otherwise manipulating tabular data using a DataFrame style API in the style of pandas.
   • pipecat is a framework for building voice (and multimodal) conversational agents.
   • OpenAI CEO 샘 알트만 최근 인터뷰 ㄷㄷ
   • Let's learn how to evaluate a RAG application (part 1):
   • Punica: Serving multiple LoRA finetuned LLM as one
   • LoRAX (LoRA eXchange) is a framework that allows users to serve thousands of fine-tuned models on a single GPU, dramatically reducing the cost of serving without compromising on throughput or latency.
   • Start Building with Project IDX Today - Google I/O 2024 is in full swing, and we're sharing updates on how Project IDX fits into our mission to create an integrated workspace that can be used to ship full-stack, AI-powered apps across platforms.
   • “틈날 때 부업, 수익 1000만원” 홍보의 진실
   • GN⁺: Google DeepMind Veo - 가장 강력한 생성형 비디오 모델 (deepmind.google)
   • Google I/O 2024에서 발표한 10가지 업데이트: 모든 웹 개발자를 위한 AI 기능 활용
   • How GPT-4o predicts the next token 🎭
   • Building Agents with gpt-4o
   • Image Chat, Image Generation, Image classification and Normal Chat
   • I got a fully working Breakout game code using a shortcut to pull up the app with GPT-4o and a simple screenshot of my screen.
   • Using LlamaIndex and llamafile to build a local, private research assistant
   • PaliGemma – Google's Cutting-Edge Open Vision Language Model
   • Infinite Wonderland - This is an AI experiment where the timeless classic Alice’s Adventures in Wonderland is endlessly reimagined by artists, AI and you.
   • Google I/O 2024에서 발표된 모든 것들 (theverge.com)
   • Plot2Code: A Comprehensive Benchmark for Evaluating Multi-modal Large Language Models in Code Generation from Scientific Plots
   • OpenAI Cookbook, interesting “The ChatCompletion endpoint now includes the ability to specify whether a tool must be called every time, by adding tool_choice='required' as a parameter.”
   • Introducing GPT-4o: OpenAI’s new flagship multimodal model now in preview on Azure
   • Introducing GPT-4o and more tools to ChatGPT free users
   • 애플+오픈AI : Apple Intelligence 만든다
   • How Is ChatGPT’s Behavior Changing Over Time?
   • Understanding How Vector Databases Work!
   • AI PROMPT ENGINEERING IS DEAD
   • too long for a tweet, some thoughts on GPT-4o by Sam Altman
   • Best practices for monitoring ML models in production
   • 내가 StackOverflow에 시간과 전문 지식을 제공한 이유는 CC-BY-SA 라이선스 였기 때문 (aus.social)
   • OpenAI, GPT-4o 공개 및 ChatGPT Free User에 더 많은 도구 도입 (openai.com)
   • OpenAI, 텍스트, 오디오, 이미지 기능을 갖춘 멀티모달 AI 모델 GPT-4o 공개 (openai.com)
   • 신한금융, 5년만에 '신한AI' 문 닫는다…"당국, 망분리 해결해야"
   • ML & Gen AI for data teams - Building reliability by design for classical ML use cases and Gen AI
   • nowledge Graph Builder App
   • Neo4j for GenAI
   • Query Knowledge Graph with LLM Application
   • Lumina-T2X: Transforming Text into Any Modality, Resolution, and Duration via Flow-based Large Diffusion Transformers
   • How to Build a Crystal Image Search App with Vector Search
   • The Llama Hitchiking Guide to Local LLMs
   • agentscope - Start building LLM-empowered multi-agent applications in an easier way.
   • How LLMs Work, Explained Without Math
   • LLM 추론 성능 엔지니어링: 모범 사례
   • SolarLLMZeroToAll - 모두를 위한 #solarllm 시리즈
   • LLaVA-NeXT: A Strong Zero-shot Video Understanding Model
   • Trustworthy Retrieval-Augmented Generation with the Trustworthy Language Model
   • Low-Hanging Fruit for RAG Search
   • AutoGroq is an AI-powered conversational assistant designed to revolutionize the way users interact with AI tools.
   • STORM: Synthesis of Topic Outlines through Retrieval and Multi-perspective Question Asking
   • node-mlx - Node.js용 머신 러닝 프레임워크 (github.com/frost-beta)
   • GN⁺: Stack Overflow 사용자들, OpenAI 제휴 후 답변 삭제 잇따라 (build5nines.com)
   • 오픈AI, 시각 능력도 갖춘 AI 음성 비서 개발 중...프리뷰 공개 임박
   • RadOnc-GPT: Leveraging Meta Llama for a pioneering radiation oncology model
   • Natural Language Processing at UT Austin, 2023-2024 version (Greg Durrett)
   • TimesFM (Time Series Foundation Model) is a pretrained time-series foundation model developed by Google Research for time-series forecasting.
   • 오픈AI, 책임감 있는 AI 형성 위한 프레임워크 ‘모델 스펙’ 공개
   • LiDAR Diffusion Models [CVPR 2024]
   • 일랴가 존카맥에게 주었다는 30개의 페이퍼리스트.
   • 현대오토에버 "딥러닝 기반 ETA 예측으로 내비게이션 정확도 74% 향상"
   • IBM Granite - 코드 작성용 오픈 파운데이션 모델 패밀리 (github.com/ibm-granite)
   • faster-nougat - Implementation of nougat that focuses on processing pdf locally.
   • GN⁺: OpenAI, 콘텐츠 제작사와의 파트너십 제안 내용 자료 유출 (adweek.com)
   • Scrapegraph-ai - LLM과 직접 그래프 로직을 이용한 웹 스크래핑 (github.com/VinciGit00)
   • GN⁺: Google TimesFM - 시계열 예측을 위한 시계열 파운데이션 모델 (github.com/google-research)
   • WrenAI is a text-to-SQL solution for data teams to get results and insights faster by asking business questions without writing SQL.
   • “사내 자동화 도구가 새로운 수익원으로”··· 엑스피온헬스가 AI를 활용하는 방식
   • 뒷방 신세 ‘빅데이터’ 유감 · · · 비즈니스와 데이터옵스의 간극에 대하여
   • "생성형 AI 기업 배포 활발··· AI 채택의 최대 장애물은 ‘가치 입증’" 가트너
   • "개인 AI는 순항 중, 전사 배포 전략은 헤매는 중"…MS 설문조사 결과
   • [2024 금융AI 혁신①] '생성형AI'로 또 한번 격동… 은행권, 'AI 조직' 공격적 확대
   • "식약처 점검에 답변 척척"…삼성바이오로직스, AI로 내부데이터 신속 검색
   • What is retrieval-augmented generation, and what does it do for generative AI?
   • "너무 모호해서 더 까다로운" LLM의 허점 5가지
   • AI 도구가 '화상회의 피로'를 줄이는 데 도움이 될 수 있을까?
   • '상담원의 업무 부담뿐 아니라'… 자체 개발한 생성형 AI 도구로 고객 지원 중인 UPS
   • '책임감 있는 AI'에 대한 잘못된 통념 3가지
   • Serverless RAG on AWS
   • Fast Exact Retrieval for Nearest-neighbor Lookup (FERN)
   • 🤗 LeRobot aims to provide models, datasets, and tools for real-world robotics in PyTorch.
   • LMDeploy is a toolkit for compressing, deploying, and serving LLMs.
   • Phi-3 WebGPU: a private and powerful AI chatbot that runs 100% locally in your browser
   • How LLMs work, clearly explained:
   • 세콰이어 캐피탈 주최의 AI 에이전트 관련 발표 중 두 개를 요약해 보았습니다.
   • llama3.js - A JavaScript implementation of Llama 3 using node-mlx, code modified from mlx-examples.
   • ImageInWords: Unlocking Hyper-Detailed Image Descriptions
   • Exploring LLMs Speed Benchmarks: Independent Analysis
   • 네이버, 웹 검색 AI 기술 업데이트…티스토리 영향?
   • ML news of the week - A collection of the best ML news every week (research, news, resources). Star this repository if you find it useful.
   • GN⁺: 2024년의 Machine Unlearning (ai.stanford.edu)
   • GN⁺: gpudeploy - GPU를 위한 "에어비앤비" (gpudeploy.com)
   • '소라'로 제작한 첫 공식 뮤비 공개..."뮤비는 만족할 수준"
   • eSpeak NG - 100개 이상의 언어와 악센트를 지원하는 음성 합성기 오픈소스 (github.com/espeak-ng)
   • Best tutorial on diffusion models that I’ve seen
   • Secret Llama - WebGPU로 구동되는 인브라우저 Llama 3 챗봇 구현체 (github.com/abi)
   • Top 10 Machine Learning Algorithms
   • Amazon Q Developer 정식 버전 출시 – 개발자 경험을 변화시킬 신규 기능 추가
   • Amazon Q Business 정식 버전 출시 – 생성형 AI 기반 업무 생산성 향상 지원 기능 추가
   • Google's Med-Gemini Scores 91.1% on the US Medical Licensing Exam (USMLE) for M.Ds.
   • 2DGS: 2D Gaussian Splatting for Geometrically Accurate Radiance Fields
   • 마이크로소프트, SLM 넘어 매개변수 5000억개 규모 LLM도 자체 개발
   • Machine Learning GPU Benchmarks
   • llm.c, 이제 멀티GPU 트레이닝을 지원하며 PyTorch보다 ~7% 빠름 (twitter.com/karpathy)
   • 인공지능에 필요한 배경지식 모음
   • Autonomous RAG - This cookbook shows how to do Autonomous retrieval-augmented generation with GPT4.
   • Scale AI just released their "AI Readiness" report
   • DeepfakeBench: A Comprehensive Benchmark of Deepfake Detection (NeurIPS 2023 D&B)
   • Best-of Machine Learning with Python - 🏆 A ranked list of awesome machine learning Python libraries. Updated weekly.
   • Minimal Implementation of Rectified Flow
   • spRAG is a RAG framework for unstructured data. It is especially good at handling challenging queries over dense text, like financial reports, legal documents, and academic papers.
   • Introducing Idefics2: A Powerful 8B Vision-Language Model for the community
   • NeuralForecast offers a large collection of neural forecasting models focusing on their performance, usability, and robustness. The models range from classic networks like RNN to the latest transformers: MLP, LSTM, GRU,RNN,TCN, DeepAR, NBEATS, NBEATSx, NHITS, DLinear, NLinear,TFT, Informer, AutoFormer, FedFormer, PatchTST,StemGNN, and TimesNet.
   • Machine Learning cheatsheets for Stanford's CS 229
   • Deep Factorization Machines
   • A Primer on the Inner Workings of Transformer-based Language Models
   • What makes Phi-3 so incredibly good?
   • 🌟 Awesome LLM Apps - A curated collection of awesome LLM apps built with RAG and AI agents.
   • Evidence of a predictive coding hierarchy in the human brain listening to speech
   • Chapter 6: Finetuning for Text Classificatio
2. 하드웨어
   • 누피 에어 V2 리뷰 | 로우 프로파일 키보드의 위상을 높이다
   • 엔비디아, “세계 최초의” 양자 가속 슈퍼컴퓨터 발표
   • "과학 컴퓨팅서 큰 진전 기대"… 엔비디아, 블랙웰 플랫폼 사용 사례 공개
   • 구글, 6번째 버전 TPU 칩 ‘트릴리움’ 공개
   • GN⁺: Raspberry Pi Ltd, IPO 검토 (londonstockexchange.com)
   • Pi-card is an AI powered voice assistant running entirely on a Raspberry Pi.
   • GPUs Go Brrr
   • From Papers to Pixels: a Raspberry Pi Document Scanner
   • Announcing Trillium, the sixth generation of Google Cloud TPU
   • 에어팟을 모스부호(Morse Code) 송신기로 사용하기 (github.com/EtherDream)
   • “본체 꾹 쥐면 팔레트 표시” 애플, 애플 펜슬 프로 공개
   • GN⁺: LPCAMM2 - 노트북용 모듈식, 수리 및 업그레이드 가능한 메모리 표준 (ifixit.com)
   • NVIDIA GH200 Grace Hopper Superchip
   • Apple, M4칩을 탑재한 신규 iPad Pro 및 Apple Pencil Pro 공개 (apple.com)
   • Apple, M4 칩 공개 (apple.com)
   • ‘바닷속 냉전’ 벌이는 美…해저케이블, 중국 안 거치고 간다
   • Multi-million dollar Cheyenne supercomputer auction ends with $480,085 bid — buyer walked away with 8,064 Intel Xeon Broadwell CPUs, 313TB DDR4-2400 ECC RAM, and some water leaks
3. 읽을거리
   • 햇반 용기가 사각에서 동그라미로 바뀐 이유는
   • '채권 듀레이션' 쉽게 공부하기 - 수정 듀레이션과 맥컬리 듀레이션은?
   • 부동산·예금에 묶인 돈...답 없는 5060세대, 투자도 꼴찌
   • Super Mario 64 fans finally open the game’s ‘unopenable’ door, 28 years later
   • 중고 팔았는데 “세금 100만원”…리셀러 잡다가 민심 잡겠네
   • [세쓸통]키 컸는데 뚱뚱해진 대한민국…30대男 40년만에 비만됐다
   • 막막한 ‘현실의 벽’… 시동 꺼진 ‘푸드트럭’ [중고매물이 된 청년의 꿈 ①]
   • 갑자기 코인 세금 고지서…"내년 아니었어?"
   • [유머] 한국 전통 무협 만화 최신 근황. manga
   • 밀리의 서재, 삼성·현대 등 ‘독서 고객사’ 매료…“비결은 ‘무제한 독서’”
   • KB 연구 보고서(경제 관련 좋은 내용 많음)
   • “수십년 일했는데 집 한 채만 덩그러니”…생활비에 허덕이는 '낀 세대'[현금없는세대 5060]
   • Oasis refund fans almost £1m - After their disastrous Heaton Park gig, Noel and Liam Gallagher have sent out cheques to 20,000 disappointed fans – and are banking on them not being cashed in
   • 일본 기프트 시장, 디지털이 대세
   • 아마존에 취직한 인류학자
   • 스탠리 드러켄밀러의 인사이트 15개
   • [인터뷰] ING 강민주 "韓 주식은 신흥국, 채권은 선진국에 가깝다"
   • 상비약 사러 갔다가 '깜짝'… 약값·병원비 껑충 뛰었다
   • KDI 보고서 "한국의 중산층은 누구인가"
   • Could stablecoin volumes overtake Visa this quarter?
   • ‘다다익선’을 둘러싼 질문은 다다익선
   • 낮은 출산율, 외롭지 않은 한국
   • 3줄 요약 아니면 읽지 않는 시대
   • Rockets and People - A four-volume memoir by Boris Chertok
   • 영국에 포섭된 KGB 첩자, 1983년 미·소 핵전쟁 막았다

보너스: This hits home pretty hard... via @AartBik

EOB

[독서광] 요즘 AI 페어 프로그래밍

이번 주는 요즘 AI 페어 프로그래밍을 소개하겠다.

방송 스크립트는 전체 공개되어 있으며, 슬라이드셰어에서 보거나 다운로드 받을 수도 있다.

하이라이트를 요약 정리하면 다음과 같다:

• 00:00 도입
• 01:18 한 페이지 요약
• 04:05 이 책의 목차
• 05:25 무엇이 이 책을 흥미롭게 만드는가?
• 15:29 대상 독자
• 17:30 결론과 마무리

EOB

[B급 프로그래머] 5월 2주 소식(개발/설계/경력관리/보안/클라우드/데이터베이스 관련 소식 정리)

(오늘의 짤방: my dear friend journalctl via @memenetes)

개발 관련 소식

1. 팁과 유틸리티
   • 윈도우용 아크 브라우저 리뷰 | 전통적인 탭 사용 경험을 ‘완전히’ 뒤집다
   • “윈도우 앱 안 부럽다” 리눅스 뉴비를 위한 추천 SW 10선
   • GN⁺: BlackHole: macOS용 오디오 루프백 드라이버 (github.com/ExistentialAudio)
   • BlackHole: Audio Loopback Driver
   • 깨알 같이 숨어 있는 윈도우 내 광고 안 보이게 설정하는 10가지 방법
   • Ask HN: 멋져 보이는 스타트업 데모는 어떻게 만드나요? (news.ycombinator.com)
   • GN⁺: CSS Grid로 악보 출력 하기 (cruncher.ch)
   • Freeter - 모두를 위한 오거나이저 앱 오픈소스 (freeter.io)
   • Cascadia Code 2404.23 for programming fonts
2. 프로그래밍
   • Asynchronous Tasks With Django and Celery
   • A 100x Speedup With Unsafe Python
   • How Python Asyncio Works: Recreating it from Scratch
   • 파이썬 대표 프레임워크 ‘장고’의 개발 트랜드는?··· 장고 개발자 설문조사 2024 핵심 내용
   • New UUID Formats
   • RFC 9562 - Universally Unique IDentifiers (UUIDs)
   • Google technical writing One, Pre-class material 읽기 (2/3)
   • Raspberry Pi Connect 베타 발표 (raspberrypi.com)
   • 웹 애플리케이션 페이지를 패키지로 개발해 본 경험 공유
   • Show GN: JavaScript에서 한글을 다루는 현대적인 라이브러리 (github.com/toss)
   • Python Constants: Improve Your Code's Maintainability
   • “모든 신기술의 감초” 가상머신(VM)의 이해
   • 오라클, SQL·자바 특화 AI 코딩 도구 ‘코드 어시스트’ 출시
   • pacemaker - For controlling time per iteration loop in Python.
   • xmake - Lua 기반 크로스플랫폼 빌드 유틸리티 (github.com/xmake-io)
   • Fast Exact Retrieval for Nearest-neighbor Lookup (FERN)
   • JEP 474: Generational Mode Now Standard for ZGC in Java
   • spring-boot-full-text Spring Boot 전문 (Full Text) 통신 라이브러리
   • Pyspread - 파이썬 스프레드시트 (pyspread.gitlab.io)
   • What Is the __pycache__ Folder in Python? Quiz
   • How to Avoid Conflicts and Let Your OS Select a Random Port
   • TypeIs does what I thought TypeGuard would do in Python
   • The Magician's Sleight of Hand - A Python switcheroo that will leave the audience stunned
   • Building Reusable Components in Django
   • Vulture - Find (Python) dead code
   • GN⁺: PHP는 더 이상 형편없지(Suck) 않아요 (developerjoy.co)
   • Python News: What's New From April 2024
   • simdjson : Parsing gigabytes of JSON per second
   • Speeding up C++ build times
   • Learning Go in 2024; From Beginner to Senior
   • Hatch is a modern, extensible Python project manager.
   • [Reactor] 서버 느리게 만드는 API 개발하기 (feat: block)
   • A collection of compiler optimizations with brief descriptions and examples of code transformations.
   • How to Get Normally Distributed Random Numbers With NumPy
   • What's Lazy Evaluation in Python?
   • C# Delegates In Practice — Implementing Observer Pattern With Delegates
   • Full Series Stanford University - C programming
   • Django Login, Logout, Signup, Password Change, and Password Reset
   • GN⁺: JSON Path 사용법 (bump.sh)
   • Design Patterns in C#
   • The long-awaited and requested FastAPI CLI is here! 🎉
   • GN⁺: Penpot 2.0 - Figma의 오픈소스 대체제 (penpot.app)
   • nushell: A new type of shell
   • Why Logfire is a perfect fit for FastAPI + Instructor¶
   • “가장 널리 사용하는 LTS 버전은 자바 17”
   • Full Line Code Completion in JetBrains IDEs: All You Need to Know
   • GN⁺: BASIC 프로그래밍 언어 60주년 (arstechnica.com)
   • PyOptInterface is an open-source Python library to provide a unified API to construct and solve optimization models with various optimizers.
   • Floats Are Weird - Compute this limit more accurately with one weird trick!
   • Jira의 이슈 정렬 방식이 Integer 방식이 아니라고?!
   • PL 위키
   • Fluent - 자연스러운 번역을 위한 로컬라이제이션 시스템 (projectfluent.org)
   • Lambda functions in Python clearly explained:
   • How to Run Your Python Scripts Quiz
   • memlab is an end-to-end testing and analysis framework for identifying JavaScript memory leaks and optimization opportunities.
   • AI로 코드 리팩토링, ‘아직은 아니다’
   • ‘뭐부터 코딩 하지?’ 고민 AI에 맡긴다··· 깃허브, ‘코파일럿 워크스페이스’ 공개
   • GN⁺: Run0 - sudo를 대체하는 systemd 기반 도구 발표 (mastodon.social)
   • Show GN: 서버 업로드 없이 HEIC/HEIF를 JPG/PNG로 변환해주는 웹 앱 (heif.pages.dev)
   • Pydantic: Simplifying Data Validation in Python
   • 10 Levels of Writing Python Functions
   • Python Sequences: A Comprehensive Guide
   • Python Monorepo Visualization
   • Python's .__call__() Method: Creating Callable Instances
   • 좋아하는 Tech 유튜버가 있나요? (lobste.rs)
   • BNF Notation: Dive Deeper Into Python's Grammar
   • Counting CPU Instructions in Python
   • PEP 686 – Make UTF-8 mode default
   • Microsoft and IBM Release MS-DOS 4.0’s Source Code under the MIT License
   • What's Lazy Evaluation in Python?
   • Better test parametrisation in pytest
   • Asyncio Coroutine Object Methods in Python
   • Django Developers Survey 2023
   • Python News: What's New From March 2024
   • Mise - 다중언어(Polyglot) 버전 관리자 (mise.jdx.dev)
   • How does Linux start a process - ...and how to ptrace the entry point and m3ss w1th da stack.
   • Running C unit tests with pytest
   • 회원 ID, 주문 ID와 같은 고유 식별자는 어떻게 생성하시나요?
   • mac-cleanup-py is a powerful cleanup script for macOS.
   • Modern Test-Driven Development in Python
   • GitHub Copilot Workspace 기술 시험판 공개 (github.blog)
   • 실용적인 테스트 피라미드 (번역)
   • Chrome Devtools를 활용하여 나만의 웹뷰 디버깅 환경 만들기 / 제5회 Kakao Tech Meet
   • Oracle Java Platform Extension for Visual Studio Code
   • The Impact of AI on Developer Productivity: Evidence from GitHub Copilot
   • (🔔당근!) 반가운 중고거래 키워드 알림 만들기
   • 모두가 행복해지는 API 문서 통합과 자동화
   • The only two log levels you need are INFO and ERROR
   • Python's Self Type: How to Annotate Methods That Return self
   • An unbiased evaluation of environment management and packaging tools
   • Develop an Asyncio Echo Client and Server
   • Lectures on Operating Systems
   • Python's raise: Effectively Raising Exceptions in Your Code
   • 웹의 흥망성쇠
   • A Practical Introduction to Web Scraping in Python
   • Netprobe Lite - Simple and effective tool for measuring ISP performance at home.
   • 101 FastAPI Tips by The FastAPI Expert
   • Ubuntu 24.04 Noble Numbat 출시 (releases.ubuntu.com)
   • go-practical-tips - In this repository, you'll find a collection of practical tips for writing better Go code, gathered from personal experiences and shared through tweets.
   • KSS: Korean String processing Suite
3. DevOps
   • Linux Performance Analysis in 60,000 Milliseconds
   • Optimizing JVM for the Cloud: Strategies for Success
   • 레드햇 생성형 AI 도구 라이트스피드, 오픈시프트 및 RHEL로 확장 발표
   • Open-Source APM and Observability Tool Coroot Now GA
   • A comprehensive introduction to CDNs
   • 가상 머신의 성능을 높이는 것도 지구 온난화에 도움이 될까요?
   • pyinfra turns Python code into shell commands and runs them on your servers.
   • Isolating risk in the CPython release process
   • SRE deep dive into Linux Page Cache
   • It’s always TCP_NODELAY. Every damn time. - It's not the 1980s anymore, thankfully.
4. 설계
   • 선물 받는 모든 순간을 세심하게 케어할게요
   • Chapter I: The birth of Parquet
   • 진격의 C커머스 ‘알리’, ‘테무’ UX 전략 살펴보기
   • 컨퍼런스 기반의 아키텍처가 나쁜 이유
   • Async APIs - don't confuse your events, commands and state
   • 허튼짓은 그만: Kafka Streams를 활용한 실시간 이상 로그인 감지 시스템 도입하기
   • 4 Software Design Principles I Learned the Hard Way
   • How Complex Systems Fail
   • 20 Blogs to Learn 20 System Design Concepts:
   • High-Performance Alerting Platform at ThousandEyes
   • ddd-by-example - Tis is a project of a library, driven by real business requirements.
   • Scaling to Count Billions
   • Applying the Facade Pattern on Spotify for Artists
   • Agile Architecture, Lean Architecture, or Both?
   • What Is a Modular Monolith?
   • The Insane Engineering of the F-16
5. 경력 관리와 개발문화
   • 구조조정 수요에 BCG·맥킨지·베인 다시 찾는 SK·LG 등 韓 대기업들
   • 엔씨소프트, 직원 수 90% 수준으로 감축한다
   • [중국의 스타 CEO]⑪ 리옌훙(李彦宏) 바이두(百度) 회장 | 구글도 몰아냈다… 바이두의 독주 이제 시작
   • 문서 작성 및 관리 노하우를 알리는 행사, Technical Documentation Day 참석 후기
   • ‘내가 리더십 책을 쓴다면...’ 현직 IT 리더들이 응답해온 7가지
   • "일본에 기술 빼앗길 판"…'라인 강탈'에 대한민국 발칵
   • "일자리 다 사라질 판"…충격 휩싸인 여의도 증권맨들 [돈앤톡]
   • AI at Work Is Here. Now Comes the Hard Part
   • 리니지식 시스템을 도입한 택배 업계
   • '자율성의 구글'은 옛말…"안정적 대기업, 도전성은 미약"
   • “CIO로 성공하기 위해 필요한 3가지는…” 제록스 CEO 스티브 반드로우차크
   • “AI 프로젝트 실무 적용까지 평균 8개월 걸려” 가트너 설문조사
   • AI 도구가 '화상회의 피로'를 줄이는 데 도움이 될 수 있을까?
   • 개발자가 싫어하는 것
   • GitHub’s Engineering Fundamentals program: How we deliver on availability, security, and accessibility
   • '라인 강탈' 노리는 일본, '눈엣가시' 한국인 이사 내쫓아…다음 행보는?
   • 네이버는 일본에 라인을 어떻게 뺏겼나
   • [단독] “유망하다더니 1년반만에”…KT 메타라운지 문닫았다
   • 신중호 라인야후 대표, 사내이사서 물러나…“네이버 위탁 순차적 종료”
   • SOFTWARE FRICTION
   • Distribution Is King : 유통이 왕이다 (every.to)
   • DORA Metrics At Work - How we doubled our team’s delivery performance within a year as measured by DORA metrics.
   • GN⁺: 14일 무료 평가판으로는 충분하지 않아요 (keygen.sh)
   • Code Of Ethics for SQLite
   • Generate roadmaps with AI - Enter a topic and let the AI generate a roadmap for you
   • FAANG engineers: Looking for something to read this weekend ? Here are 8 articles that will help you get promoted to Staff (IC6) faster:
   • GN⁺: AI Copilot이 코딩 교육의 패러다임을 변화시키고 있음 (spectrum.ieee.org)
   • How to Be a Better Software Engineering Leader
   • '나'와 '우리'를 구별하라 外··· 아마존이 전하는 인터뷰 팁
   • "AI가 코딩 더 잘해"…신입 개발자 '구직난'
   • 아모레퍼시픽은 어떻게 디지털혁신 우등생이 됐나 - 홍성봉 최고디지털기술책임자 "데이터 접근성 개선 최우선 과제로"
   • “구글, 플러터와 다트 인력도 감축”
   • “한국 기업 79%가 생성형 AI를 혁신 촉진 요소로 고려”… 델 테크놀로지스 보고서
   • 조지아 공대가 ‘H100 기반 새 슈퍼컴퓨터를 배치한 이유’
   • '데이터·인재·요구 사항 外'… IT의 전략 목표 달성을 가로막는 장애물 10가지
   • 당신이 바로, 당신이 찾던 기술 코파운더에요 (every.to)
   • Why you need a "WTF Notebook"
   • Don't lie in interviews
   • GN⁺: "제2의 기회"라는 미신 (ft.pressreader.com)
   • 정보화 시대와의 작별: 이제는 평판의 시대다 – Gloria Origgi
   • ☕ awesome-cafe ☕ - 모각코하기 좋은 국내 카페 리스트를 정리한 저장소입니다.
   • 구글이 더 저렴한 인건비를 위해 자체 파이썬 팀을 해고 (reddit.com)
   • 노후 불안한 50대…국가기술자격 응시 20만명 돌파
   • “30대 중반이 늙었다고?”…中기술직 ‘35세의 저주’ 내몰려
   • AWS코리아, ‘교육·인증’ 조직 구조조정…확산 여부에 초점
   • “웃돈 줄테니 인재 모십니다” 이젠 옛말됐다…연봉 상승 한풀 꺾인 ‘이 업계’
   • SI 기업 TOP 20를 알아보자
   • 자동차 4000대 판매 달인들의 비결 “車가 아니라 나를 판다”
   • 생성형 AI 이용 현황 및 노동 대체 가능성에 대한 이용자 인식조사

보안/클라우드/데이터베이스 관련 소식

1. 보안
   • 클라우드 보안의 평판이 나빠진 이유
   • 4,900만 고객 정보 유출… 델 “중대한 위험은 없어”
   • “기업 해킹 여부 원클릭으로 확인 가능”··· KISA, 무료 ‘해킹진단도구’ 배포
   • 가짜 웹 사이트가 85만 개 신용카드 정보를 훔치는 아주 간단한 방법
   • “코드 서명을 쉽고 안전하게” 마이크로소프트 ‘신뢰 서명’ 서비스의 이해
   • GN⁺: 오픈 소스 프로젝트 대상 사회공학 기법을 통한 탈취에 대한 경보 (openssf.org)
   • Humans now share the web equally with bots, report warns amid fears of the ‘dead internet’
   • '다가온 사이버 팬데믹'… AI 딥페이크와 보안 및 신원 확인의 미래
   • GN⁺: 모든 중국 지도의 오류 (medium.com/@anastasia.bizyayeva)
   • 비밀번호 보안을 강화하는 가장 빠르고 쉬운 방법 4가지
   • 버라이즌 ‘2024 데이터 유출 보고서’에서 알 수 있는 5가지 핵심
   • '개발자·CISO 대상'… 美 국립표준기술연구소, AI 위험에 대한 새로운 가이드 발표
   • “설치하면 PC 느려진다?” 안티바이러스에 대한 7가지 낭설 바로잡기
   • [사기지옥]②"자기야로 시작해 부업 할래?"…6일만에 2.3억 앗아간 혼종 사기
   • “안 하나 못 하나” 구글, ‘쿠키 퇴출’ 또 연기
   • pico hacker labs - Open source and managed web services leveraging SSH.
   • GN⁺: Passkeys: 산산조각 난 꿈 (fy.blackhats.net.au)
2. 클라우드
   • GN⁺: 기업들이 GPU에 대한 저렴한 접근을 요구하면서 대체 클라우드가 급성장중 (techcrunch.com)
   • GN⁺: gpudeploy - GPU를 위한 "에어비앤비" (gpudeploy.com)
   • Amazon S3 Unauthorized Request Billing Issue: an Empty S3 Bucket Can Dramatically Increase the Costs
   • 네이버, 2024년 1분기 실적 발표 ··· “클라우드 사업 전년대비 25.5% 성장”
   • 클라우드 비용 가시성이 비즈니스와 고용에 미치는 영향
   • "하이퍼스케일 데이터센터 1,000곳 돌파··· 총 용량 4년마다 두 배" 시너지리서치
   • AWS re:Invent 2023 후기
   • AWS 비용 최적화 Part 1: 버즈빌은 어떻게 월 1억 이상의 AWS 비용을 절약할 수 있었을까
   • Aurora vs. RDS: How to Choose the Right AWS Database for 2024
   • How an empty S3 bucket can make your AWS bill explode
   • 비용 절감…클라우드 송환만이 답은 아니다
   • AIaaS의 유혹
   • Google Cloud accidentally deletes UniSuper’s online account due to ‘unprecedented misconfiguration’
3. 데이터베이스
   • kvql - 키-밸류 DB를 위한 SQL과 비슷한 쿼리 언어 (github.com/c4pt0r)
   • How We Scaled PostgreSQL to 350 TB+ (With 10B New Records/Day)
   • Postgres Message Queue (PGMQ)
   • "하나로 다 된다” 오라클 데이터베이스 23ai 정식 출시
   • "AI 벡터 검색 등 기능 추가"… 오라클, 데이터베이스 23ai 정식 출시
   • 벡터 검색부터 RAG까지...글로벌 DB 시장 'AI 중심' 재편 가속
   • Apache Kvrocks™ - A distributed key value NoSQL database that uses RocksDB as storage engine and is compatible with Redis protocol.
   • pg_back dumps databases from PostgreSQL
   • Peerdb Streams - 심플한 Postgres CDC(Change Data Capture) (blog.peerdb.io)
   • I'm writing a new vector search SQLite Extension
   • Modern SQLite #1: STRICT Tables
   • There are 4 ways you can approach data isolation in Modular Monoliths:
   • GN⁺: SQLite가 Bytecode를 사용하는 이유 (sqlite.org)
   • 읽기 전용 설정으로 MySQL 이전하기
   • What's new in pgvector v0.7.0
   • Hacking on PostgreSQL is Really Hard
   • Releem: MySQL Performance Tool
   • Zero-downtime migrations
   • Common DB schema change mistakes
   • Moving from DynamoDB to tiered storage with MySQL+S3
   • MySQL: Latency and IOPS
   • nxs-data-anonymizer is a tool for anonymizing PostgreSQL and MySQL/MariaDB/Percona databases' dump.

(보너스: When I see people going down the GraphQL road and know how it ends. via @MatthewRideout)

[B급 프로그래머] 5월 1주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

오늘의 짤방: Generative AI in a nutshell via https://blog.crisp.se/

1. 빅데이터/인공지능
   • Visual Language Models on NVIDIA Hardware with VILA
   • 더존비즈온, 세무회계 전문 AI 비서 ‘원AI’ 고도화··· “종합소득세 신고 기능 강화”
   • GN⁺: 모든 중국 지도의 오류 (medium.com/@anastasia.bizyayeva)
   • Claude, iOS용 앱 공개 (apps.apple.com)
   • E2B's Code Interpreter SDK allows you to add code interpreting capabilities to your AI apps.
   • “AI가 나이 확인” 독일 공항 편의점, 연령 제한 상품의 셀프서비스 판매에 AI 적용
   • StoryDiffusion: Consistent Self-Attention for Long-Range Image and Video Generation
   • 제미나이, 안드로이드 사용자 경험을 망치러 온 구글의 구원자
   • Invisible Stitch: Generating Smooth 3D Scenes with Depth Inpainting
   • Llama 3 70B takes the king’s crown 👑 from GPT-4 Turbo
   • 마음AI, 'AI EXPO KOREA 2024'서 한국어 한계 극복한 대형언어모델 '라마 말-허밍버드' 오픈 소스로 공개
   • Paint by Inpaint - Learning to Add Image Objects by Removing Them First
   • Instructor is a Python library that makes it a breeze to work with structured outputs from large language models (LLMs).
   • ‘기대와 실상 사이’··· 생성형 AI에 대한 현실 점검
   • 마음AI, 한국어 한계 극복한 라마기반 LLM 오픈소스 공개
   • Cria - Python으로 간단히 LLM 구동하기 (github.com/leftmove)
   • To improve RAG, you generally need to do two things: 1️⃣ improve retrieval, and 2️⃣ improve generation.
   • We introduce Llama3-ChatQA-1.5, which excels at conversational question answering (QA) and retrieval-augmented generation (RAG).
   • A Hitchhiker’s Guide to Speculative Decoding
   • TURNS OUT THAT EXTREMELY IMPRESSIVE SORA DEMO... WASN’T EXACTLY MADE WITH SORA
   • Code Llama is a family of large language models for code based on Llama 2 providing state-of-the-art performance among open models, infilling capabilities, support for large input contexts, and zero-shot instruction following ability for programming tasks.
   • Automatic Creative Selection with Cross-Modal Matching
   • Accelerating Llama3 FP8 Inference with Triton Kernels
   • Meta Llama 3 models are now available in Amazon Bedrock
   • STT: Stateful Tracking with Transformers for Autonomous Driving
   • 배민선물하기 AI 메시지 제작기: 생성 AI가 센스 있는 선물 메시지를 대신 쓰기까지
   • Data-Efficient Multimodal Fusion on a Single GPU
   • Prompt flow is a suite of development tools designed to streamline the end-to-end development cycle of LLM-based AI applications, from ideation, prototyping, testing, evaluation to production deployment and monitoring.
   • “자율주행으로 시속 250km 포뮬러 경기” 아부다비 A2RL, 자율주행 추월에도 성공
   • SUQL stands for Structured and Unstructured Query Language. It augments SQL with several important free text primitives for a precise, succinct, and expressive representation. It can be used to build chatbots for relational data sources that contain both structured and unstructured information
   • GPT-4 Can't Reason
   • The Anthropic Cookbook provides code and guides designed to help developers build with Claude, providing copy-able code snippets that you can easily integrate into your own projects.
   • An evaluation of RAG Retrieval Chunking Methods
   • PLLaVA: Parameter-free LLaVA Extension from Images to Videos for Video Dense Captioning
   • RAG and RAU: A Survey on Retrieval-Augmented Language Model in Natural Language Processing
   • This is a repository of RALM surveys containing a summary of state-of-the-art RAG and other technologies according to according to our survey paper: RAG and RAU: A Survey on Retrieval-Augmented Language Model in Natural Language Processing .
   • STaRK: Benchmarking LLM Retrieval on Textual and Relational Knowledge Bases
   • Amazon Bedrock, Cohere Command R 및 R+ 모델 정식 출시
   • EfficientViT: Multi-Scale Linear Attention for High-Resolution Dense Prediction (paper, poster)
   • Capabilities of Gemini Models in Medicine
   • Memary - 자동화 에이전트를 위한 롱텀 메모리 (github.com/kingjulio8238)
   • ScrapeGraphAI is a web scraping python library that uses LLM and direct graph logic to create scraping pipelines for websites, documents and XML files.
   • 마이크로소프트-오픈AI "GPT-4, 한국어 토큰 효율화 달성"
   • Google announces Med-Gemini, a family of Gemini models fine-tuned for medical tasks! 🔬
   • The "end game" of LLMs is going to be as follows:
   • Not just NVIDIA: GPU programming that runs everywhere
   • OpenAI Releases New Fine-Tuning API Features
   • ExecuTorch Alpha: Taking LLMs and AI to the Edge with Our Community and Partners
   • Assessing The Potential Of Mid-Sized Language Models For Clinical QA
   • Retrieval Augmented Generation by Pinecone
   • Quantization is quite harmful for LLaMA 3 than for LLaMA 2.
   • 메타 "의료 LLM 메디트론, 라마 2 기반으로 의료계 자원 격차 해소 기대"
   • Welcome to the ChatGPT API Free Reverse Proxy, offering free self-hosted API access to ChatGPT (gpt-3.5-turbo) with OpenAI's familiar structure, so no code changes are needed.
   • Beating Proprietary Models with a Quick Fine-Tune
   • Finetuning Embeddings:
   • StarCoder2-Instruct: Fully Transparent and Permissive Self-Alignment for Code Generation
   • A Survey of Generative Search and Recommendation in the Era of Large Language Models
   • Checkpoint and restore functionality for CUDA is exposed through a command-line utiity called cuda-checkpoint
   • Ollama v0.1.33 - Llama 3 + Phi 3 + Qwen 110B 지원 (github.com/ollama)
   • The Bllossom language model is a Korean-English bilingual language model based on the open-source LLama3. It enhances the connection of knowledge between Korean and English. It has the following features:
   • "더 바쁘고 깐깐해진 고객 잡아라"...유통가도 AI 도입 사활 - [창간 24주년 특집: GenAI 시대]⑤ 물류부터 쇼핑까지 AI 기술 적극 활용
   • [금융 LLM 시리즈 2] 금융 데이터 셋 구축 전략과 학습 예시 공개
   • AIOS, a Large Language Model (LLM) Agent operating system, embeds large language model into Operating Systems (OS) as the brain of the OS, enabling an operating system "with soul" -- an important step towards AGI.
   • Make Your LLM Fully Utilize the Context
   • Lessons after a half-billion GPT tokens
   • torchtitan is a proof-of-concept for Large-scale LLM training using native PyTorch.
   • Running Python on a serverless GPU instance for machine learning inference
   • The 01 Project is building an open-source ecosystem for AI devices. Our flagship operating system can power conversational devices like the Rabbit R1, Humane Pin, or Star Trek computer.
   • 2024년 AI 스타트업을 위한 데이터 수집 전략 (press.airstreet.com)
   • PLLaVA : Parameter-free LLaVA Extension from Images to Videos for Video Dense Captioning
   • LLaVA++: Extending Visual Capabilities with LLaMA-3 and Phi-3
   • Visual Instruction Tuning
   • AdvPrompter: Fast Adaptive Adversarial Prompting for LLMs
   • GN⁺: LLM이 결코 할 수 없는 것 (strangeloopcanon.com)
   • OpenVoice v2 - 다재다능한 인스턴트 음성 복제 (github.com/myshell-ai)
   • Meta Llama 3 발표후, 첫 일주일간 생긴 일 (ai.meta.com)
   • Apple, 기기 내 사용을 목표로 하는 8개의 소형 AI 언어 모델 릴리즈 (arstechnica.com)
   • Can Generalist Foundation Models Outcompete Special-Purpose Tuning? Case Study in Medicine
   • Multistage RAG with LlamaIndex and Cohere Reranking: A Step-by-Step Guide
   • 데미스 하사비스가 말하는 AI — ‘기계에 깃든 정신’ (번역)
   • GraphRAG: Unlocking LLM discovery on narrative private data
   • Qwen1.5-110B : 알리바바의 오픈소스 LLM Qwen1.5 시리즈의 첫번째 100B+ 모델 (qwenlm.github.io)
   • 아는 사람만 쓴다는 퍼플렉시티, 직접 사용해 봤습니다
   • Nitro - Embeddable AI: A fast, lightweight 3mb inference server to supercharge apps with local AI.
   • Multimodal Search with Snowflake Embedding and MAX Engine
   • In RipX DAW, audio is stored in Hit’n’Mix’s revolutionary Rip format, a giant step up from waveforms, enabling full control over all aspects of sound.(RipX DAW PRO AI음악으로 원하는 BGM 쇼츠 음악 10분컷 크리에이터 걱정끝!
   • 애플도 오픈소스 AI 대열에 합류··· LLM ‘오픈ELM’ 공개
   • A Multimodal Automated Interpretability Agent by MIT CSAIL
   • 마이크로소프트, 소형 언어 모델 파이-3 시리즈 발표 "SLM만의 강점 있어"
   • Stable Diffusion 3 API now available as Stable Assistant effort looms
   • 💬 RepoQA - 🚩The First Benchmark for Long-Context Code Understanding.🚩
   • 개선된 어도비 포토샵 AI 기능 직접 써보니…
   • 7 Ways to Make Use of Llama-3 for Free
   • 구글, AI 집중한 구조 개편 시도 "리서치와 딥마인드 AI 팁 통합"
   • LLaVA++: Extending Visual Capabilities with LLaMA-3 and Phi-3
   • 롯데멤버스, 자사 디지털 마케팅 플랫폼에 구글 ‘제미나이’ 적용 발표
   • “코파일럿에 완전히 매료되지 못한 이유는...” AI 미리 도입한 CIO 3인의 조언
   • Colossal-AI provides a collection of parallel components for you. We aim to support you to write your distributed deep learning models just like how you write your model on your laptop.
   • 생성형 AI로 커지는 IT 지출 · · · “헛돈 쓸 가능성 유의해야”
   • Imagenet.int8: Entire Imagenet dataset in 5GB
   • 마이크로소프트, 국내 AI 트랜스포메이션 사례 발표
   • How to Maximize LLM Performance
   • ConsistentID:Portrait Generation with Multimodal Fine-Grained Identity Preserving
   • MGM-13B-HD - The framework supports a series of dense and MoE Large Language Models (LLMs) from 2B to 34B with HD image understanding, reasoning, and generation simultaneously.
   • ‘AI계 구글’ 노리는 퍼플렉시티, 6270만 달러 투자 유치··· SK 외 일본·독일 통신사 협력 강화
   • Open-source LLM Ecosystem at Hugging Face
   • “제조업 98%, 데이터 문제로 협업 및 생산성 향상에 어려움 겪어” 헥사곤 보고서
   • "관건은 데이터"··· 세일즈포스, AI와 데이터 신뢰성 설문조사 발표
   • “더 많이 배워 더 똑똑하다” 메타의 최신 LLM ‘라마 3’ 뜯어보기
   • '퍼즐 맞춰졌다' 인터넷 필요 없는 코파일럿 나올까
   • “구인구직 매칭 서비스에 LLM 활용해보니...” 링크드인이 전하는 생성형 AI 현실 교훈
   • DeepLearning.AI's the batch issue 246
   • 딥엘, 번역 이어 ‘AI 작문 서비스’ 공식 출시 ··· “범용 LLM 보다 비즈니스 영역에 특화”
   • AI ‘쩐의 전쟁’ 최후 승자는?… 미래 성적표에 달렸다
   • 스노우플레이크, 엔터프라이즈급 오픈소스 LLM ‘아크틱’ 출시
   • 엇갈리는 빅테크 희비… MS·구글 웃고, 메타·인텔은 주가 폭락
   • A Recipe for Training Neural Networks by Andrew Karpathy
   • XTuner is an efficient, flexible and full-featured toolkit for fine-tuning large models.
   • LMDeploy is a toolkit for compressing, deploying, and serving LLM, developed by the MMRazor and MMDeploy teams.
   • Cohere Toolkit - Toolkit is a collection of prebuilt components enabling users to quickly build and deploy RAG applications.
   • Write Unit Tests for Your Python Code With ChatGPT
   • Tabby is a self-hosted AI coding assistant, offering an open-source and on-premises alternative to GitHub Copilot.
   • CopilotKit - The Open-Source Copilot Framework: Build, deploy, and operate fully custom AI Copilots.
   • IDM-VTON: Improving Diffusion Models for Authentic Virtual Try-on in the Wild
   • tokenizers by Huggingface - Provides an implementation of today's most used tokenizers, with a focus on performance and versatility.
   • Detect AI Text by Just Looking at it
   • A look at the early impact of Meta Llama 3
   • Retrieval-Augmented Dual Instruction Tuning (RA-DIT)
   • You can use use the mlx-lm package to fine-tune an LLM with low rank adaptation (LoRA) for a target task. The example also supports quantized LoRA (QLoRA)
   • Make Your LLM Fully Utilize the Context
   • 리디 추천 시스템 Phase 2 – Feature Store 도입기
   • T-RAG: Lessons from the LLM Trenches
   • MoDE: CLIP Data Experts via Clustering
   • Unsloth : Finetune Llama 3 with 2x 빠르고 6x 긴 Context, 68% 적은 VRAM (unsloth.ai)
   • The easiest way to get started with LlamaIndex is by using create-llama. This CLI tool enables you to quickly start building a new LlamaIndex application, with everything set up for you.
   • CatLIP: CLIP-level Visual Recognition Accuracy with 2.7x Faster Pre-training on Web-scale Image-Text Data
   • Chat With Product PDF Manuals Using Hybrid Search
   • [창간 17주년/기업 생성형AI 현주소①] 10명 중 6명 '만족'...통번역에 주로 활용
   • 인터넷도 GPU도 필요없다... MS “경량 AI ‘파이3′, 산업 완전히 바꿀 것” 부베크 MS 생성형 AI 부사장
   • Explaining black box machine learning models is critical to gaining leadership's buy-in and trust.
   • How faithful are RAG models? Quantifying the tug-of-war between RAG and LLMs' internal prior
   • How to Finetune phi-3 on MacBook Pro
   • Two decades of recommender systems at Amazon.com
   • 숏클립 생성을 위한 하이라이트 검출 기술 개발기
   • * TriForce: Lossless Acceleration of Long Sequence Generation with Hierarchical Speculative Decoding
   • CoreNet: Apple의 다양한 작업을 위한 포괄적인 심층 신경망 툴킷 (github.com/apple)
   • Jina AI Reader - URL을 LLM 친화적인 입력으로 바꿔주는 도구 (github.com/jina-ai)
   • Running LLM’s Locally: A Step-by-Step Guide
   • Stanford CS25 V4 Transformers course
   • LLaMA Board: A One-stop Web UI for Getting Started with LLaMA Factory
   • Internist.ai 7b is a medical domain large language model trained by medical doctors to demonstrate the benefits of a physician-in-the-loop approach. The training data was carefully curated by medical doctors to ensure clinical relevance and required quality for clinical practice.
   • PyTorch 2.3 Release Blog
   • Arctic is a dense-MoE Hybrid transformer architecture pre-trained from scratch by the Snowflake AI Research Team.
   • Cohere Toolkit - Toolkit is a collection of prebuilt components enabling users to quickly build and deploy RAG applications.
   • The “it” in AI models is the dataset.
   • 음악감상의 패턴… 강렬한 곡은 ‘여름-낮-男’, 차분한 곡은 ‘겨울-밤-女’[박재혁의 데이터로 보는 세상]
   • Model Cards & Prompt formats for Meta Llama 3
   • 진격의 오픈소스 LLM...라마3 반응 폭발적·스노우플레이크도 출사표
   • Adobe released new features:
   • Understanding Large Language Models - A Cross-Section of the Most Relevant Literature To Get Up to Speed
   • Automated Commit Message Generation with Large Language Models: An Empirical Study and Beyond
   • Rules of Machine Learning: Best Practices for ML Engineering(매우 실용적인 교훈이 담겨있음)
   • Phi-3 has "only" been trained on 5x fewer tokens than Llama 3 (3.3 trillion instead of 15 trillion)
   • CoreNet is a deep neural network toolkit that allows researchers and engineers to train standard and novel small and large-scale models for variety of tasks, including foundation models (e.g., CLIP and LLM), object classification, object detection, and semantic segmentation.
   • Penzai is a JAX library for writing models as legible, functional pytree data structures, along with tools for visualizing, modifying, and analyzing them.
   • GaussianTalker: Speaker-specific Talking Head Synthesis via 3D Gaussian Splatting
   • Detecting and redacting PII using Amazon Bedrock
   • Introducing more enterprise-grade features for API customers by OpenAI
   • The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions
   • GN⁺: Phi-3 기술 보고서 (arxiv.org)
   • Feature Test for Phi-3-mini-4k-instruct using Llamaindex
   • SnapKV: LLM Knows What You are Looking for Before Generation
   • DEVELOPING RAPIDLY WITH GENERATIVE AI
   • GN⁺: LLM 기술의 금융 시장 활용 (thegradient.pub)
   • 메타 "AGI 도약 방법 발견...'트랜스포머'와 다른 아키텍처 개발 중"
   • Safely repairing broken builds with ML
   • Show GN: Corely AI, 유튜브 영상을 10초 만에 핵심 정리해주는 익스텐션 출시 (크롬, 웨일) (chromewebstore.google.com)
   • The Tokenizer Playground - Experiment with different tokenizers (running locally in your browser).
   • 🖥️ WebLlama🦙 - Building agents that can browse the web by following instructions and talking to you
   • Local RAG with LlamaIndex and Microsoft phi-3 via Ollama
   • Multi-Head Mixture-of-Experts
   • GN⁺: 구글 검색을 죽인 남자 (wheresyoured.at)
   • Graphist - Graphic Design with Large Multimodal Model
   • UVA FOUNDATION MODELS COURSE - MSc in Artificial Intelligence for the University of Amsterdam.
   • Prompt2Model - Generate Deployable Models from Instructions
   • MultiBooth: Towards Generating All Your Concepts in an Image from Text
   • SPLATE: Sparse Late Interaction Retrieval
   • Mini-LLaMA MLX - A simple implementation of LLaMA 2 that you can run experiments with on your MacBook.
   • Mastering Prompt Compression with LLM Lingua: A Deep Dive into Context Optimization
   • Rotary Embeddings (RopE) is one of the Fundamental Building Blocks of LlaMA-3 Implementation 🦙
   • Penzai - 신경망 구축, 편집, 시각화를 위한 JAX 도구 키트 (github.com/google-deepmind)
   • How Good Are Low-bit Quantized LLaMA3 Models? An Empirical Study
   • Microsoft Introduces Phi-3, LLM That Runs on the Phone
   • If you just started playing with Quantized LLMs on local machine and are confused about which model formats to download 🤔- here are some rough points
   • This page is a distribution site for the ground-truthed dataset for use in document analysis and recognition experiments.
   • TED 2064 - OpenAI Sora로 만든 TED 홍보 영상 (twitter.com/TEDTalks)
   • morphic - 챗봇 형태의 검색 엔진
   • “자체 모델 구축보다 '챗GPT'나 '라마 2' 호스팅이 저렴...월 750만원선”
   • Cosine similarity clearly explained (a go-to metric for vector similarity):
   • A Trivial Jailbreak Against Llama 3
   • Start making music with AI - In-browser text-to-music generation
   • Sparrow is an innovative open-source solution for efficient data extraction and processing from various documents and images. It seamlessly handles forms, invoices, receipts, and other unstructured data sources.
   • 글로벌 AI 플랫폼 1위는 챗GPT…학습·코딩도 20위 내 '선전'
   • GN⁺: Llama 3 8B는 Wizard 2 8x22B에 필적하는 성능을 보임 (huggingface.co)
   • Pretzel - 데이터 탐색/시각화를 위한 오픈소스 오프라인 브라우저 기반 도구 (github.com/pretzelai)
   • llmlingua - This great lib from Microsoft can 𝗰𝗼𝗺𝗽𝗿𝗲𝘀𝘀 your prompt massively.
   • ControlNet++: Improving Conditional Controls with Efficient Consistency Feedback
   • HTML을 LLM (GPT, Gemini, Claude) 에게 전달해서 요약을 부탁하거나 자동화 검색, 웹페이지 자동화 제어를 개발할 때에 전송 비용을 아끼기 위해서 HTML 을 LLM이 읽기 좋게 요약하는 "html-torch" 라는 오픈소스를 개발했습니다.
   • Llama3와 LangChain을 이용하여 한국어 Chatbot 만들기
   • Cosine Similarity and Text Embeddings In Python with OpenAI
   • 한달간 '소라' 테스트한 영화감독 "아직 영화 제작은 무리"
   • GN⁺: VASA-1: 한장의 사진과 오디오로 말하는 얼굴 실시간 생성하기 (microsoft.com)
   • Using and Finetuning Pretrained Transformers
   • Llama 3 는 이전 버전에 비해 검열이 심하지 않음 (ollama.com)
   • Meta AI, Llama 3로 업그레이드 되다 (about.fb.com)
   • Segment Anything WebGPU - In-browser image segmentation w/ 🤗 Transformers.js
   • 마크 주커버그 인터뷰 - Llama 3, 100억달러 모델을 오픈소싱한 이유 (dwarkeshpatel.com)
   • Building Meta’s GenAI Infrastructure
   • DREAM: Distributed RAG Experimentation Framework
2. 하드웨어
   • 와이파이 6E 배포를 위한 7가지 팁
   • The AI Gadget That Can Make Your Life Better—and Two That Definitely Won’t
   • 한국IDC “생성형 AI, 서버 시장 판도 바꿔··· 2028년 국내 서버 시장 4조 7,246억원 규모”
   • x86 팬이 퀄컴 스냅드래곤 X 엘리트를 환영하는 이유
   • “지난해 국내 서버 시장 5.1% 감소…GPU 투자 쏠림ㆍ공급 지연 원인”
   • Axion Processor: Google Announces Its First Arm-Based CPU
   • AI PC가 화두?··· 업계 전문가 “관심은 많지만 내년까지 도입 어려울 것”
   • GN⁺: TSMC, 백사이드 전력 공급을 도입한 1.6nm 공정 기술 공개 (tomshardware.com)
   • “비싼 만큼 값어치 한다” 울트라와이드 모니터의 모든 것
   • “애플 워치가 있는 한” 휴대용 AI 기기엔 미래가 없다
   • 인텔, 세계 최대 뉴로모픽 시스템 '할라 포인트' 구축 "AI 추론 50배 더 빠르게"
   • 모든 유선 전화를 디지털화해야 할 때
   • MSX Story - 1
   • 2024년 A18 칩의 청사진…얼마나 똑똑해질까?
   • 아이폰을 픽셀 8 프로로 바꾼 후 깨달은 5가지
   • 블루투스 시장도 경기 침체 직격탄…“2023년 출하량 예상보다 4억 대 적어”
   • TSMC races for chip supremacy with new A16 process for AI-ready future
   • '갖다 대면 착 붙는' 마그네틱 USB-C 어댑터를 쓰면 안 되는 이유
   • Tiny but mighty: The Phi-3 small language models with big potential
   • Advanced RAG 10: Corrective Retrieval Augmented Generation (CRAG)
   • Imandra gives AI the power of reasoning - Large Language Models (LLMs) use Imandra to build mental models and reason about them, unlocking the incredible potential of generative AI for industries where correctness and compliance matter.
   • seemore: Implement a Vision Language Model from Scratch
   • 성장형 그래픽 ‘인텔 아크 A-시리즈’, 지난 1년간 발걸음 [권용만의 긱랩]
   • Interstellar 8-Track: How Voyager's Vintage Tech Keeps Running
   • IP-Adapter: Text Compatible Image Prompt Adapter for Text-to-Image Diffusion Models
   • LongEmbed - Extending Embedding Models for Long Context Retrieval
   • Voyager 1's incredible journey continues after NASA patches code in 46-year-old chip from a distance of 15 billion miles
3. 읽을거리
   • 요물, 우리를 홀린 고양이 진시 도록
   • "만화·웹툰·웹소설만 돈 된다", 끝나지 않는 출판시장 침체기
   • KTX는 점점 느려지고 있다
   • 2023년 출판시장 통계보고서 발간
   • GN⁺: Ozempic, 담배ㆍ제과ㆍ주류 산업 위협하는 게임 체인저 (curingaddiction.substack.com)
   • “오픈채팅 사용자 7%, 광고 보고 제품 구매한 적 있다”
   • 31살에 전세사기 두 번째…다가구 세입자 위한 나라는 없다
   • GN⁺: 애플의 폐쇄적 생태계(walled garden) 붕괴 조짐 (theverge.com)
   • 최형광 칼럼 | 초저가 시장의 탄생(feat 차이나 플랫폼)
   • 원달러 환율이 빠르게 오르는 비밀
   • 2024 대한민국 웰스 리포트 by 하나금융경제연구소
   • GN⁺: 아무도 책을 사지 않습니다 (elysian.press) - Penguin vs. 법무부 재판으로 보는 출판업계 인사이트
   • 레드테크의 역습…中 '14억 실험실'이 움직인다
   • 만약 내 다리가, 3시간 만에 '마비'된다면…[남기자의 체헐리즘]

(보너스: The rule of thumb. A quick guide to approximate measurements using your hand. via @Rainmaker1973)

EOB