[B급 프로그래머] 4월 4주 소식(개발/설계/경력관리/보안/클라우드/데이터베이스 관련 소식 정리)

(오늘의 짤방: ㅋㅋ MS dos 4.0도 오픈소스화됨. 커밋 메시지가 MZ is back! MZ는 도스 실행파일을 표시하는 2바이트 시그니처... via @neozest)

개발 관련 소식

1. 팁과 유틸리티
   • Yazi - ⚡️ Blazing Fast Terminal File Manager
   • TagStudio is a photo & file organization application with an underlying system that focuses on giving freedom and flexibility to the user.
   • 비디오 화상대화 동안 발표자 오버레이 사용하기(맥OS X)
   • Windows Photos adds new Microsoft Designer integration
   • Hanword HWP document converter for Microsoft Word 2016 - Hanword HWP document converter for Microsoft Word 2016 is a tool which allows you to convert and open HWP files in Word as DOCX files.
   • Firefox 125.0.1 릴리즈 (mozilla.org)
   • 구글 ‘서클 투 서치’ 똑똑하게 활용하는 5가지 비법
   • 구글, 포토 앱 사용자에게 픽셀 전용 AI 편집 툴 무료 제공…5월부터 적용
   • LittleBigMouse - DPI Aware mouse move across screens for Windows 10 / 11
2. 프로그래밍
   • GN⁺: DOS 4 오픈 소스화 (hanselman.com)
   • GN⁺: Rust로 게임 개발을 한 3년 후에 떠나며 (loglog.games)
   • ✨ Go-to design system resources 👇
   • 이제는 ‘닭 잡는 칼' 이상··· 로우코드 도구 고급 활용법 7가지
   • ‘라이선스 변경’ 보다 더 시급히 다뤄야 할 오픈소스 문제
   • 자바스크립트 ‘프로미스’ 실전 사용법 5가지
   • Write Unit Tests for Your Python Code With ChatGPT
   • Nimble (formerly known as “Alpha”) is a new columnar file format for large datasets created by Meta. Nimble is meant to be a replacement for file formats such as Apache Parquet and ORC.
   • Introduction to Apache Kafka Error Handling (Springboot)
   • JSR은 또 다른 패키지 관리자가 아닌 새로운 도구입니다 (deno.com)
   • Modern Java/JVM Build Practices
   • unkey - Our platform simplifies the API-building process, allowing you to monetize, analyze, and protect endpoints.
   • automathon - A Python library for simulating and visualizing finite automata.
   • 프론트엔드 개발자/엔지니어 핸드북 2024 (frontendmasters.com)
   • How to run pytest in parallel on GitHub actions
   • Empower your script with auto_venv: Say Goodbye to Manual Setup or Install!
   • Python Gotcha: strip, lstrip, rstrip can remove more than expected
   • escaping: Suppress Exceptions With Callbacks and Logs
   • 자바의 Virtual Thread가 나와도 코틀린의 코루틴은 여전히 살아남을까?
   • 9 signs your frontend code has quality issues that affect your users
   • Show GN: LogTape: 의존성 없는 Node.js/Deno/Bun/브라우저용 로깅 라이브러리 (github.com/dahlia)
   • MuPDF.js - WASM을 이용한 브라우저/Node.js용 PDF 뷰어 (github.com/ArtifexSoftware)
   • Java Scoped Values: Better ThreadLocals
   • py2wasm - Python to WASM 컴파일러 공개 (wasmer.io)
   • How to Format Floats Within F-Strings in Python
   • Announcing py2wasm: A Python to Wasm compiler
   • Predicting solar eclipses with Python
   • Client libraries are better when they have no API
   • With Great Tables anyone can make wonderful-looking tables in Python.
   • csjosa - c# 한글 조사 처리입니다. 모노와 VS2013에서 빌드 및 실행 테스트되었습니다.
   • Papers We Love (PWL) is a community built around reading, discussing and learning more about academic computer science papers.
   • 자마린 폼 지원 종료 이후 해야 할 일 "업데이트가 전부다"
   • 지원 종료된 지도 10년인 윈도우 XP가 아직도 쓰이는 곳들
   • A Tale of Two Frameworks: The Domain Graph Service Framework Meets Spring GraphQL
   • Elastic Universal Profiling agent, a continuous profiling solution, is now open source
   • Adventures in Import-land, Part II
   • Java 22 Brings Developers Better Usability, Promise of Simplification
   • Spinlocks Considered Harmful
   • Build a Flashcards App With Django
   • HTTP Requests With the "requests" Library Quiz
   • 웹페이지 DOM을 3D로 보여주는 코드 스니펫
   • 프론트엔드 개발자가 알아야 할 숫자들 (vercel.com)
   • Python F-String Codes I Use Every Day
   • Using breakpoints to explore your code
   • ASGI deployment options for Django
   • How I manage Python in 2024 - No more frustration
   • Python Project-Local Virtualenv Management Redux
   • Bringing Python to Workers using Pyodide and WebAssembly
   • Why Do Python Lists Multiply Oddly? Exploring the CPython Source Code
   • Enforcing conventions in Django projects with introspection
   • JupyterLab for an Enhanced Notebook Experience
   • Clean Code in Python
   • I ported THOUSANDS of apps to Windows 95
   • 파이썬 초보자가 저지르는 10가지 실수
   • unicode-segmenter - A lightweight and fast, pure JavaScript library for Unicode segmentation.
3. DevOps
   • Observability: logging, tracing, and metrics.
   • Cloud Hypervisor is an open source Virtual Machine Monitor (VMM) that runs on top of the KVM hypervisor and the Microsoft Hypervisor (MSHV).
   • Investigation of a Cross-regional Network Performance Issue
   • How NAT traversal works
   • NGINX를 투명 프록시 (transparent proxy)로 사용하기
   • 4 types of performance tests and what they tell you.
   • Dool – All-in-One Linux Server Performance Monitoring Tool
   • 데이터 엔지니어의 Airflow 데이터 파이프라인 CI 테스트 개선기
   • koyeb - Deploy to production, scale globally, in minutes (PaaS)
   • “개발자 83%는 이미 데브옵스를 쓰고 있다”
   • sniffnet - Application to comfortably monitor your Internet traffic, Cross-platform, Intuitive, Reliable
   • How to Expose Multiple Containers On the Same Port: Multiple Containers, Same Port, no Reverse Proxy...
4. 설계
   • Top 8 Cache Eviction Strategies.
   • Redesigning In-Train Displays of the ICE
   • A Distributed Systems Reading List
   • The Serverless Illusion - Abstractions can become illusions. Is Serverless one of them?
   • The Design Philosophy of Great Tables
   • 모두가 행복해지는 API 문서 통합과 자동화
   • The Log: What every software engineer should know about real-time data's unifying abstraction
   • 디지털 정부서비스 UI·UX 가이드라인 - 행정안전부. 2024
   • Make Python DevEx
   • A key motivator of Distributed Async Await: application-level processes "outlive" platform-level processes
   • Modular Monolith Data Isolation
   • The System Design Primer
5. 경력 관리와 개발문화
   • 더 나은 사람을 뽑는 방법 | 브라이언 클라스 명강의 몰아보기 3편
   • AI로 새 매출 기회를!··· CIO가 CFO와 협력해 ‘레브옵스’ 구축하기
   • 한전, 창사 이후 두번째 희망퇴직… 150여명 규모
   • “직장 상사보다 AI에 조언 구하는 Z세대…” 이직 고민하게 만드는 기업의 특징
   • The jextract tool parses header (.h) files of native libraries, and generates Java code, called bindings, which use the Foreign Function and Memory API (FFM API) under the hood, that can be used by a client to access the native library.
   • Kamal - 모든 곳에 웹앱을 쉽게 배포하고 관리해주는 도구 (github.com/basecamp)
   • '월급쟁이' 분석해보니…3명 중 1명은 월급 200만원대
   • Google is officially a $2 trillion company
   • 우리의 소프트웨어 프로젝트 계획이 늘 틀어지는 이유
   • 업무 환경의 진화, 키는 ‘주 4일제’에 있다
   • '올해 기업 IT 지출 증가하면서 관리형 서비스 성장 중'… IDC 보고서
   • 인공지능은 과연 일자리를 없앨까? '역사'는 그렇지 않았다
   • '동종업계 이직금지' 조항 무효화의 파장
   • 엇갈리는 빅테크 희비… MS·구글 웃고, 메타·인텔은 주가 폭락
   • GN⁺: 읽은 내용이 당신을 만든다, 기억하지 못한다 해도 (blog.jim-nielsen.com)
   • 구름, 23년 매출 144억원으로 전년비 61%↑…2년 연속 흑자
   • How to Become a Supercommunicator at Work
   • 덕성여대, 독문-불문과 폐지… 인문학 소멸위기
   • GN⁺: 아무도 책을 사지 않습니다 (elysian.press)
   • AI, 개발자까지 삼키나…확 달라진 SW시장의 미래는
   • 엔씨소프트, 결국 인원 감축 카드 꺼냈다 - 노동조합 통해 다수의 제보... 규모는 확인할 수 없어
   • Failures, mistakes and confusion
   • 당신이 기술 코파운더를 찾을 수 없는 이유 (breakneck.dev)
   • [단독]정부 SW사업 참여 개발자들 10억대 임금체불···'반프리 계약'이 사태 더 키웠다
   • Bus driver and Assistant Professor: a unique double position
   • GN⁺: 바이엘, 상사 없애고 직원들에게 "자율 조직화" 요청 (fortune.com)
   • Why the 100x analyst doesn’t exist
   • Why Engineers Should Study Philosophy
   • How to survive coding interviews with a single line of Python code
   • 2년동안 194USD 버는 앱을 만들면서 얻은 교훈
   • 방치형RPG 비판 - 동시대 게임의 사회적 상상력의 문제
   • 코딩 잘해야 은행원 된다… 일반 행원 줄이고 전문분야 채용 신설
   • 이직할 때 ‘우리 회사 데이터 분석 잘한다’는 말에 낚이지 않는 방법
   • 성인 10명중 6명, 1년에 책 한 권도 안 읽는다…독서율 최저치 경신
   • “억대 연봉 옛말 됐다”…이 직원 4명분 AI가 도맡아 ‘대규모 칼바람’
   • 10 things software developers should learn about learning
   • 인건비 줄여 AI 투자…밀려나는 빅테크 직원들
   • 오픈AI, 1년 만에 직원수 2배 증가..."올말에는 1500명 넘을 것"
   • "까라면 까" 문화는 옛말... '작업중지' 30만 번 발동한 삼성물산
   • "이젠 무섭네요"…억대 연봉에 모셔가던 '취업깡패' 지금은
   • 일부 금융 대기업, 수습 직급 대체하는 AI 도구 테스트 중
   • “AI 코딩 도구 사용률, 2028년까지 급증 전망” 가트너
   • 집중과 제거의 중요성
   • Product/Market Fit (PMF)을 위한 로드맵 (longform.asmartbear.com)
   • 거절은 새로운 시작
   • Career Paths Are Never as Straightforward as We Believe: Introducing The Path
   • 에드거 샤인의 조직문화의 개념, 조직문화를 강건하게 만드는 방법에 대한 고민들
   • 👨‍🏫좋은 개발 스터디를 운영하는 법

보안/클라우드/데이터베이스 관련 소식

1. 보안
   • 클라우드 백업 솔루션 선택 시 기억해야 할 4계명
   • 내 아이클라우드 계정에 로그인한 모든 기기를 확인하는 방법
   • Fingerprint Sensing Process
   • 깃허브와 깃랩 사용하면 사실상 대처법이 전무한 피싱 공격 완성
   • How to detect a fake account
   • Network Security and Exploitation
   • GitHub - Psmths/windows-forensic-artifacts: Handbook of windows forensic artifacts across multiple Windows version with interpretation tips with some examples. Work in progress!
   • Zero-Knowledge Proofs for the Layman
   • “구관이 명관?” 더 이상 사용하지 말아야 할 구식 보안 프랙티스 5가지
   • “해커가 나를 보고 있지 않을까?” 윈도우 PC를 위한 웹캠 보안 가이드
   • 비밀 관리를 위한 금고 시스템 만들기 (kciter.so)
   • 강은성의 보안 아키텍트ㅣ개인정보 처리 위탁에서의 재위탁과 수탁자 및 위탁자 관리
   • 구글 원 부가 서비스 VPN, 연내 서비스 중단하며 '구글 공동 묘지'로
   • GN⁺: PuTTY 취약점 vuln-p521-bias 발견 (chiark.greenend.org.uk)
2. 클라우드
   • 클라우드, 생성형 AI를 위한 필승 플랫폼 아니다
   • '트럭으로 옮기는 데이터' AWS, 스노우모빌 서비스 단계적 폐지
   • 구글, 사상 첫 배당 발표에 13% 급등…매출도 1년새 15% 늘어
   • 클라우드 시장서 MS 애져, 아마존 웹서비스 추격중
   • “올해 데이터센터 시스템 매출 10% 이상 증가 · · · 생성형 AI가 주도” 가트너
   • Power-hungry AI is putting the hurt on global electricity supply
3. 데이터베이스
   • PostgreSQL's memory allocations
   • GN⁺: 분산형 SQLite: 패러다임의 전환인가 과장된 선전인가? (kerkour.com)
   • GN⁺: Supabase Storage, 이제 S3 프로토콜 지원 (supabase.com)
   • 효율적인 DB관리를 위한 Data Storage Automation
   • DrawDB is a robust and user-friendly database entity relationship (DBER) editor right in your browser.
   • DB의 아버지 "생성AI 미래, 융합 DB가 관건"
   • GN⁺: Neon Serverless Postgres 정식 출시(GA) (neon.tech)
   • Supabase, 4년간의 베타를 거쳐 이제 GA(일반 사용 가능) (supabase.com)
   • GN⁺: Redka - SQLite로 재구현한 Redis (github.com/nalgeon)
   • PostgreSQL Index Advisor (github.com/supabase)
   • ParadeDB is an Elasticsearch alternative built on Postgres.
   • pqJQ - Postgres에서 jq 사용하기 (github.com/Florents-Tselai)
   • Keeping Multiple Databases in Sync Using Kafka Connect and CDC

(보너스: MS-DOS comments 🔥🔥🔥 via @vxunderground)

EOB

[B급 프로그래머] 4월 3주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

(오늘의 짤방: 주요 인공지능 모델들의 트레이닝 비용. 잼민이 트레이닝 시키는데에만 $191M (2600억원) 정도 들었다고 예상함. via @mynameisdjkim)

1. 빅데이터/인공지능
   • 슬랙 "생성형 AI 추가 요금은 인당 월 10달러"
   • 메타, 최신 LLM ‘라마3’ 오픈소스 공개…“기술ㆍ코딩ㆍ역사 등 다양한 데이터 학습”
   • Meta, Llama 3 공개 (ai.meta.com)
   • Mark Zuckerberg - Llama 3, $10B Models, Caesar Augustus, & 1 GW Datacenters
   • Meta Llama 3에 대한 Andrej Karpathy의 평가 (twitter.com/karpathy)
   • 메타, 페북 등에 AI 챗봇 '메타 AI' 탑재…최신 라마3 기반
   • Llama-3 tokenizer playground
   • Pegasus-1 Technical Report by 트웰브랩스
   • We are releasing two new open-source reranker models: jina-reranker-v1-turbo-en and jina-reranker-v1-tiny-en, the latter has only 30M parameters and four layers! 🤯 These two new rerankers enjoy 5X faster inference speed than our last jina-reranker-v1-base model at only a very small cost on the quality.
   • More technical details on the new Meta Llama 3 models announced today. 🦙🧵
   • Imagine Flash: Accelerating Emu Diffusion Models with Backward Distillation
   • Meet Your New Assistant: Meta AI, Built With Llama 3
   • Vision language models, explained 🧶❤️
   • Build a RAG system with Llama 3B-Instruct for your PDFs
   • From Image to UML: First Results of Image Based UML Diagram Generation Using LLMs
   • #LLaMA3 is out! It's the same architecture as Llama-2, except for some differences:
   • LLaMA-3 is a prime example of why training a good LLM is almost entirely about data quality…
   • Here's all that we know about Meta Llama 3 so far
   • 'AI 사각지대 이해하기'… 하이브리드 환경 전반에서 AI를 식별하고 보호하려면
   • "LLM 시장, 2030년까지 연평균 33.2% 성장" 마켓앤마켓 보고서
   • 이직할 때 ‘우리 회사 데이터 분석 잘한다’는 말에 낚이지 않는 방법
   • The Assistants API is designed to help developers build powerful AI assistants capable of performing a variety of tasks.
   • '세금 결산을 지원하는 생성형 AI 환경 구축'… H&R블록 CIO
   • 한국어 영향 미칠까?··· 오픈AI, 일본 지사 설립 및 일본어 맞춤 GPT-4 모델 공개
   • Stable Diffusion 3 API 이용 가능 (stability.ai)
   • LG CNS, ‘DAP 젠AI 플랫폼’ 고도화…“생성형 AI 4대 솔루션 모두 제공”
   • “프레임 추가하고 배우 의상까지 바꾼다” 어도비, 프리미어 프로에 AI 신기능 추가
   • GN⁺: AI에 호기심 있는 앱 개발자를 위한 좋은 시작점, Embeddings (bawolf.substack.com)
   • SOAR: New algorithms for even faster vector search with ScaNN
   • GN⁺: Mistral AI, 새로운 오픈 모델 Mixtral 8x22B 공개 (mistral.ai)
   • torchtune: Easily fine-tune LLMs using PyTorch
   • Video2Game: Real-time, Interactive, Realistic and Browser-Compatible Environment from a Single Video
   • Code with CodeQwen1.5
   • 👉 PixArt-Σ: Weak-to-Strong Training of Diffusion Transformer for 4K Text-to-Image Generation(데모)
   • Magic Clothing is a branch version of OOTDiffusion, focusing on controllable garment-driven image synthesis
   • The following examples show how to get started with the unstructured library.
   • LLM-Powered Test Case Generation for Detecting Tricky Bugs
   • HairFastGAN: Realistic and Robust Hair Transfer with a Fast Encoder-Based Approach
   • Current best local model:
   • 스탠포드의 2024년 AI 현황을 설명하는 15가지 그래프 (spectrum.ieee.org)
   • 구글 딥마인드의 ALOHA Unleashed - 저비용 로봇과 AI로 손재주 한계를 뛰어넘는 중 (twitter.com/tonyzzhao)
   • Vision Transformers 비쥬얼 가이드 (blog.mdturp.ch)
   • Leave No Context Behind: Efficient Infinite Context Transformers with Infini-attention
   • 오라클 DB의 아버지, 앤디 멘델손… “굳이 LLM 만들 필요 없어”
   • MMInA: Benchmarking Multihop Multimodal Internet Agents
   • Extending Llama to a new language
   • 어도비, 동영상 편집기 '프리미어'에 '소라' 등 결합 예정..."획기적 통합"
   • 검색에 잘 걸리게 하는 SEO(search engine optimization)에서 이제는 LLM의 추천을 잘 받는 LSO(LLM-based search optimization)의 시대가 온다.
   • Colab 101: Your Ultimate Beginner's Guide!
   • Compression Represents Intelligence Linearly
   • 'AI 헤드셋 착용한 직원'… 리테일 매장을 AI로 혁신 중인 트랙터 서플라이
   • “짝퉁 식별부터 AI 패션쇼까지” 명품 시장에 부는 ‘생성형 AI’ 바람
   • ACCELERATING SCIENTIFIC DISCOVERY WITH GENERATIVE KNOWLEDGE EXTRACTION, GRAPH-BASED REPRESENTATION, AND MULTIMODAL INTELLIGENT GRAPH REASONING
   • Pile-T5 - Trained T5 on the Pile
   • Introducing Idefics2: A Powerful 8B Vision-Language Model for the community
   • Build a Large Language Model (From Scratch) source code
   • OpenAI, 일본 지사 설립후 일본어 최적화 GPT-4 모델 출시 (openai.com)
   • Welcome to the Gemini API Cookbook
   • We’re excited to release a brand-new tutorial series 💫 : an introduction to agents and tools 🎬🤖
   • 당근에서 LLM 활용하기
   • “AI가 변환한 흑백 사진·영화 멋진데”... GIST, 사진·영상을 전문가 수준으로 컬러에서 흑백 보정하는 AI 기술 개발
   • LLaMA Now Goes Faster on CPUs
   • Introducing OpenAI Japan
   • Scaling (Down) CLIP: A Comprehensive Analysis of Data, Architecture, and Training Strategies
   • "문장 입력하면 영상 뚝딱"…구글·어도비 동영상 생성 AI 참전
   • CS 886: 파운데이션 모델의 최신 연구 동향 (cs.uwaterloo.ca)
   • Using Python for Data Analysis
   • Building LLMs for Code Repair by replit
   • Can GPT Optimize My Taxes?
   • ⚡ LitGPT - Pretrain, finetune, evaluate, and deploy 20+ LLMs on your own data
   • Open-Sora: Democratizing Efficient Video Production for All
   • AIChat - All-in-one chat and copilot CLI that integrates 10+ AI platforms.
   • MiniCPM-V - MiniCPM-V 2.0: An Efficient End-side MLLM with Strong OCR and Understanding Capabilities
   • The Anatomy of Autonomy: Why Agents are the next AI Killer App after ChatGPT
   • Gemini Agent Example
   • Grok-1.5 Vision Preview: 고급 시각 처리 기능을 갖춘 최초의 멀티모달 모델 소개 (x.ai)
   • Adobe's Firefly Image Generator Was Partially Trained on AI Images From Midjourney, Other Rivals
   • Building a better repository map with tree sitter
   • Show GN: AI 한영/영한 번역기 도다리 (github.com/vEduardovich)
   • AI를 활용하는 데 도움이 되는 챗GPT 프롬프트 프레임워크
   • Rho-1: Not All Tokens Are What You Need by Microsoft
   • 📘 LangChain 한국어 튜토리얼
   • 멀티모달 검색 증강 생성 101
   • Linear Regression is one of the most important tools in a Data Scientist's toolbox. Here's everything you need to know in 3 minutes.
   • 생성 AI를 통해 모델 이미지 문제 해결하기 - AI를 활용한 이미지 생성부터 문제 해결까지
   • Deep-Learning-in-Production - In this repository, I will share some useful notes and references about deploying deep learning-based models in production.
   • “복잡한 쿼리 작성 AI에 맡기세요”··· 스노우플레이크, AI 기반 SQL 어시스턴트 출시
   • MusicGen is a text-to-music model capable of genreating high-quality music samples conditioned on text descriptions or audio prompts.
   • Introducing MusicGen Web: AI-powered music generation directly in your browser, built with 🤗 Transformers.js! 🎵
   • LLMs Can Do Regression(참고: Game Over for traditional ML methods)
   • Dot - 로컬 LLM과 RAG을 쉽게 사용하게 해주는 스탠드얼론 오픈소스 앱 (github.com/alexpinel)
   • LaVague is an open-source project designed to automate automation for devs!
   • CLIcK: A Benchmark Dataset of Cultural and Linguistic Intelligence in Korean
   • 단계별로 알아보는 완전 로컬 검색 증강 생성(RAG)
   • GPTScript is a new scripting language to automate your interaction with a Large Language Model (LLM), namely OpenAI.
   • The Era of 1-bit LLMs: All Large Language Models are in 1.58 Bits
   • ToxicChat: Unveiling Hidden Challenges of Toxicity Detection in Real-World User-AI Conversation
   • I used generative AI to turn my story into a comic—and you can too
   • Lore Machine is a story visualization systems
   • Character Consistency in Stable Diffusion
   • Prompt injection and jailbreaking are not the same thing
   • Researchers jailbreak AI chatbots with ASCII art -- ArtPrompt bypasses safety measures to unlock malicious queries
   • ASCII art elicits harmful responses from 5 major AI chatbots
   • You can now train a 70b language model at home(using 2 GPUs)(FSDP and QLoRA)
   • LLM4Decompile - Reverse Engineering: Decompiling Binary Code with Large Language Models
   • LLM4Decompile: Decompiling Binary Code with Large Language Models
   • Nvidia’s CEO, Jensen Huang: AI will take over coding, making learning optional
   • Nvidia announces “moonshot” to create embodied human-level AI in robot form
   • Machine Learning University (MLU) is an education initiative from Amazon designed to teach machine learning theory and practical application.
   • GPT-4 Turbo with Vision is a step backwards for coding
   • GN⁺: Aider - 터미널에서 AI와 페어 프로그래밍 하기 (github.com/paul-gauthier)
   • This repository contains a lightweight library for evaluating language models. We are open sourcing it so we can be transparent about the accuracy numbers we're publishing alongside our latest models (starting with gpt-4-turbo-2024-04-09).
   • Chronon - AirBnb가 공개한 오픈소스 ML 피쳐 플랫폼 (github.com/airbnb)
   • Jan - Rethink the Computer. Turn your computer into an AI machine
   • The tech industry can’t agree on what open-source AI means. That’s a problem.
   • [독서광] 쉽고 빠르게 익히는 실전 LLM(본인이 작성한 글)
   • narwhals - Extremely lightweight and extensible compatibility layer between Polars, pandas, Modin, and cuDF (and more!).
   • “앱 구축하는 것보다 어렵다” LLM을 테스트하는 4가지 전략
   • AI의 발전, LLM을 넘어서는 사고가 필요하다
   • “AI에 효과적으로 말 걸기” 똑똑한 프롬프트 엔지니어링의 10가지 비밀
   • In this paper, we introduce TimeGPT, the first foundation model for time series, capable of generating accurate predictions for diverse datasets not seen during training.
   • OpenAI, GPT-4 Turbo with Vision 일반 공개(GA) (platform.openai.com)
   • Open-Parse - LLM을 위한 PDF 레이아웃 분할(Chunking) (github.com/Filimoa)
   • UBS "AI 랠리 지속"…올해 기술주 이익 18% 급증 전망
   • 올거나이즈, ‘금융 전문 LLM 리더보드’ 공개
   • Multilingual Large Language Model: A Survey of Resources, Taxonomy and Frontiers
   • Anthropic, Claude에 함수 호출(Tool Use) 기능 베타 공개 (docs.anthropic.com)
   • Distributed tuning with Gemma using Keras
   • LiveCodeBench: Holistic and Contamination Free Evaluation of Large Language Models for Code
   • GLiNER is a Named Entity Recognition (NER) model capable of identifying any entity type using a bidirectional transformer encoder (BERT-like).
   • LG유플러스도 AI챗봇 경쟁 합류…6월부터 자체 LLM 적용
   • 운전자 습관·행동 읽어 `척척`… 티맵, AI로 진화한다
   • Gemini 1.5 Pro Now Available in 180+ Countries; With Native Audio Understanding, System Instructions, JSON Mode and More
   • March RAGness - We pitted the top RAG systems against each other and used Tonic Validate to rank their performance.
   • 오픈AI-메타, 차세대 LLM 곧 출시...추론 역량 중무장 예고
   • 비자, 플레이드, 네트워크, 과업 (번역)
   • MiniGPT4-Video: Advancing Multimodal LLMs for Video Understanding with Interleaved Visual-Textual Tokens
   • GN⁺: 진정한 개방형 LLM, Hello OLMo 등장 (blog.allenai.org)
   • CodeGemma - an official Google release for code LLMs
   • JP모건 회장 "AI, 증기기관 발명에 비견…산업 지형 바꿀 것"
   • Text Generation Inference (TGI) is a toolkit for deploying and serving Large Language Models (LLMs).
   • SwapAnything: Enabling Arbitrary Object Swapping in Personalized Visual Editing
   • Navigating LLM Deployment: Tips, Tricks and Techniques by Meryem Arik at QCon London
   • MA-LMM: Memory-Augmented Large Multimodal Model for Long-Term Video Understanding
   • llm.c - raw C/CUDA 로 LLM 훈련하기 (github.com/karpathy)
   • llm.c - LLM training in simple, pure C/CUDA. There is no need for 245MB of PyTorch or 107MB of cPython.
   • ML for Developers - Learn how to combine machine learning with software engineering to design, develop, deploy and iterate on production ML applications.
   • GN⁺: Meta, 다음 주에 Llama 3의 소형 버전 출시 예정 (theinformation.com)
   • lumentis - AI로 녹취록과 비정형 정보에서 자동 문서 생성 (github.com/hrishioa)
   • Ollama supports embedding models, making it possible to build retrieval augmented generation (RAG) applications that combine text prompts with existing documents or other data.
   • OneLLM: One Framework to Align All Modalities with Language. 📌 Through a unified multimodal encoder and progressive alignment pipeline, OneLLM connects vision, audio, video, and more to language seamlessly.
   • Using LlamaParse for Knowledge Graph Creation from Documents
   • AI-Powered Search: Embedding-Based Retrieval and Retrieval-Augmented Generation (RAG)
   • Ferret-UI: Grounded Mobile UI Understanding with Multimodal LLMs
   • LLM-Based Multi-Agent Systems for Software Engineering: Vision and the Road Ahead
   • 5 GitHub repositories that will give you superpowers as an AI/ML Engineer:
   • GN⁺: AI에 패한 후 프로 바둑 기사들, 더 뛰어나고 창의적으로 변화 (henrikkarlsson.xyz)
   • 2024년 ML/AI/Data 업계 지도와 최신 트렌드 (mattturck.com)
   • Loki by LibrAI - 사실 여부 검증 프로세스를 자동화하는 오픈소스 도구 (github.com/Libr-AI)
   • Running OCR against PDFs and images directly in your browser
   • 🤖 Machine Learning Tutorials Repository 🤖
   • InstantStyle: Free Lunch towards Style-Preserving in Text-to-Image Generation
   • More Agents Is All You Need
   • Open-Sora-Plan - We are thrilled to present Open-Sora-Plan v1.0.0, which significantly enhances video generation quality and text control capabilities.
   • FreeAskInternet is a completely free, private and locally running search aggregator & answer generate using LLM, Without GPU needed.
   • In this tutorial, we'll see how to use LlamaIndex Instrumentation module to send intermediate steps in a RAG pipeline to the frontend for an intuitive user experience.
   • GN⁺: Cohere의 Command R+ - 비즈니스를 위해 구축된 확장 가능한 LLM (txt.cohere.com)
   • SWE-bench - Can Language Models Resolve Real-World GitHub Issues?
   • Opera 브라우저, 사용자가 LLM을 다운받아 로컬로 실행하는 기능 추가 (techcrunch.com)
   • JetMoE: Reaching LLaMA2 Performance with 0.1M Dollars
   • LLM Visualization
   • StarCoder2 is a family of code generation models (3B, 7B, and 15B), trained on 600+ programming languages from The Stack v2 and some natural language text such as Wikipedia, Arxiv, and GitHub issues.
   • The Illustrated Stable Diffusion
   • Praison AI, leveraging both AutoGen and CrewAI or any other agent framework, represents a low-code, centralised framework designed to simplify the creation and orchestration of multi-agent systems for various LLM applications, emphasizing ease of use, customization, and human-agent interaction.
   • Engineering household robots to have a little common sense
   • Build an LLM RAG Chatbot With LangChain
   • Evalverse - The Universe of Evaluation. All about the evaluation for LLMs. by Upstage
   • How to Combine Vector Search and SQL for RAG
   • Scaling AI/ML Infrastructure at Uber
   • RAG 애플리케이션을 파일럿 단계에서 프로덕션 단계로 전환하는 4가지 방법
2. 하드웨어
   • 우리집 '전기도둑'은 누굴까? 가전제품별 소비전력 알아보기
   • 다시 뜨거운 데스크톱 CPU 시장…'윈텔'의 아성은 언제까지 공고할 것인가
   • 인텔 ‘AI 에브리웨어 전략’, 엔비디아의 시장 독점 허물까
   • GN⁺: AMD, Ryzen Pro 8000 시리즈 프로세서 공개 (tomshardware.com)
   • Vortex - OpenCL 호환 가능한 RISC-V 아키텍처 기반의 풀스택 오픈소스 GPGPU (vortex.cc.gatech.edu)
   • 메타, ‘차세대 MTIA’ 발표··· "1세대 AI 칩 대비 3배 성능"
   • “인텔의 최근 혁신은 솔직히 지루했다"··· 겔싱어, 인텔 AI 로드맵 발표
   • 로봇 청소기는 어떻게 길을 찾고 장애물을 피할까
   • '가우디 기반 생태계 구축'… 네이버클라우드-인텔, AI 공동연구센터 설립
   • 다이슨, 청소 궤적을 실시간 시각화하는 AR 도구 다이슨 클린트레이스™ 공개
   • Meta, 차세대 학습 및 추론 가속기 MTIAv2 공개 (ai.meta.com)
   • GN⁺: 인텔 Gaudi 3 AI 가속기 출시 (intel.com)
3. 읽을거리
   • 성인 10명중 6명, 1년에 책 한 권도 안 읽는다…독서율 최저치 경신
   • A chunk of metal that tore through a Florida home definitely came from the ISS
   • [단독] ‘메타버스 서울’ 혈세 60억원 날렸다
   • '세계 최초' 기술이라더니…한국 연구진 조작 논란에 '발칵'
   • 매달 15만원 내면 '월 60만원' 준다더니…日 기초연금 결국
   • 2024 보통사람 금융생활 보고서 - 신한은행
   • Korean Won Topped Dollar as Preferred Currency for Crypto Trades in First Quarter
   • Can you build a Biden/Trump voter?
   • The cheaper the brand, the more polyester they use
   • 신선식품은 어쩌다 빈부격차의 상징 됐나 [마켓톡톡]
   • 12년째 이어진 수학계 '초전도체급
   • 맹모'삼천만원'지교 시대... 자녀교육과 노후준비 균형 맞추려면
   • 돈이 얼마나 있어야 생각없이 소비할 수 있을까?
   • 조중동 매출이 한겨레‧경향 5배.
   • "그냥 멍청히 서 있어요" 통화주의 반격…이래야 경제 돌아간다?
   • 60세 이상 감독은 10% 감점, 전작 망했으면 가점… 수익률 176%의 비결
   • [친절한 경제] 고물가·고금리 당분간 더 간다…멀어지는 금리인하 기대
   • What "Made in China" Means Today
   • 여의도 전업 트레이더 썰.ssul
   • Audio Dialogues: Dialogues dataset for audio and music understanding
   • 설마했는데…“이건 쇼크다” 발칵 뒤집힌 ‘국민 메신저’

(보너스: Expectation vs Reality. via @levikul09)

EOB

[B급 프로그래머] 4월 2주 소식(개발/설계/경력관리/보안/클라우드/데이터베이스 관련 소식 정리)

(오늘의 짤방: Until I run Chrome. via @loftwah)

개발 관련 소식

1. 팁과 유틸리티
   • 아이폰에서 나만의 벨소리를 ‘무료로’ 만드는 방법
   • “내 PC 게임에 최적화하기” 게이머가 알아야 할 7가지 설정
   • 개발자 생산성 높여주는 무료 맥 앱 7가지
   • “미리 대체 앱을 찾아 두자” 윈도우에서 삭제될 기능 10가지
   • Download, Edit, and Print Your Favorite Getty Artwork for Free(다운로드)
   • impaste: pasting images to piped commands on macOS
   • Rnote is an open-source vector-based drawing app for sketching, handwritten notes and to annotate documents and pictures.
   • Tuttut - Converts MIDI files to guitar tabs.
   • Czkawka (tch•kav•ka (IPA: [ˈʧ̑kafka]), "hiccup" in Polish) is a simple, fast and free app to remove unnecessary files from your computer.
   • MS오피스 파일 저장 및 열기에 클래식 창 바로 사용하는 팁
2. 프로그래밍
   • 2.5 million Java developers on Visual Studio Code! Roadmap for the next 6 months
   • Wax is a word processor for the web. Modern, extensible, responsive, community driven, and 100% open source.
   • Microsoft's GitHub offers companies souped-up AI coding tool
   • Ludic is a lightweight framework for building HTML pages with a component approach similar to React.
   • es-hangul은 쉽게 한글을 다룰 수 있도록 돕는 JavaScript 라이브러리입니다. 편리하게 사용할 수 있는 모던한 라이브러리 API를 제공합니다. ECMAScript Modules을 사용하기 때문에, 사용자가 브라우저 환경에서 최소한의 코드를 내려받도록 할 수 있습니다.
   • GN⁺: Oh My Git! - Git 학습을 위한 오픈소스 게임 (ohmygit.org)
   • Git workflow diagram showcasing the role of remote-tracking refs (origin/*)
   • TSAC - Low Bitrate 오디오 압축 기술 (bellard.org)
   • Zellij is a workspace aimed at developers, ops-oriented people and anyone who loves the terminal. Similar programs are sometimes called "Terminal Multiplexers".
   • "리액트, 뷰, 앵귤러…" 최고의 자바스크립트 프레임워크는?
   • 토스가 꿈꾸는 React Native 기술의 미래
   • The *Best Python Cheat Sheet
   • Guide on Structured Logs [Best Practices included]
   • Why Do Python Lists Multiply Oddly? Exploring the CPython Source Code
   • Inline run dependencies in pipx 1.4.2
   • Enforcing conventions in Django projects with introspection
   • "Real" anonymous functions for Python
   • How to Set Up Pre-Commit Hooks
   • Fix Python Code Smells with These Best Practices
   • 10 reasons I stick to Django rather than FastAPI
   • My Accessibility Review Checklist
   • Drawpyo is a Python library for programmatically generating Diagrams.net/Draw.io charts.
   • REBOUND is an N-body integrator, i.e. a software package that can integrate the motion of particles under the influence of gravity.
   • Technology Radar Vol 30
   • Chisel - HTTP를 통해 전송되는 빠른 TCP/UDP 터널 (github.com/jpillora)
   • C++ Insights – 컴파일러의 눈으로 소스 코드 살펴보기 (github.com/andreasfertig)
   • Boring Python: dependency management
   • GN⁺: Ray - AI 및 Python 애플리케이션 확장을 위한 통합 프레임워크 (github.com/ray-project)
   • Duck Typing in Python: Writing Flexible and Decoupled Code
   • 작은 스타트업에서 디자인 시스템 쉽게 구축하기 (feat.TailwindUI Catalyst) (blog.notifly.tech)
   • Fixing a Bug in PyPy's Incremental GC
   • Unnecessary else statements
   • Distributed coroutines with a native Python extension and Dispatch
   • Django: Write-up on optimizing the system check framework
   • A better Python cache for slow function calls
   • Building command-line applications in Python
   • Relieving your Python packaging pain
   • Every dunder method in Python
   • Designing a Pure Python Web Framework
   • Lambda on hard mode: Inside Modal's web infrastructure
   • Jupyter & IPython terminology explained 💡
   • Install and Execute Python Applications Using pipx
   • With Great Tables anyone can make wonderful-looking tables in Python.
   • Pingora is a Rust framework to build fast, reliable and programmable networked systems.
   • GN⁺: Jpegli - 구글이 만든 새로운 JPEG 코딩 라이브러리 (opensource.googleblog.com)
   • Python as a configuration language
   • lldap - Light LDAP implementation for authentication
   • jnv is designed for navigating JSON, offering an interactive JSON viewer and jq filter editor.
   • Demystifying Code Snippets in Code Reviews: A Study of the OpenStack and Qt Communities and A Practitioner Survey
   • VSCode March 2024 (version 1.88)
   • Docker Best Practices for Python Developers
   • “2027년까지 개발자 70%가 사용한다는데…” AI 코딩 도구의 함정
   • AI가 만든 코드, 안전하게 쓰려면 ‘클린 코드’에 집중하자
   • Thoughtworks Technology Radar, Volume 30 공개 (thoughtworks.com)
   • “운영체제를 컨테이너화한다” 프로젝트 블루핀과 운영체제의 미래
   • “고품질 이미지 35% 더 압축가능”··· 구글, 오픈소스 JPEG 라이브러리 공개
   • 10 > 64, in QR codes
   • Anakin - This is a tool that runs another command, and kills all the orphans it generates.
   • How I manage Python in 2024
   • GN⁺: HeyForm - 오픈소스 Form 빌더 (github.com/heyform)
   • Stirling-PDF - This is a robust, locally hosted web-based PDF manipulation tool using Docker. It enables you to carry out various operations on PDF files, including splitting, merging, converting, reorganizing, adding images, rotating, compressing, and more.
   • django-prose-editor - Prose editor for the Django admin based on ProseMirror.
   • Atlassian Pragmatic Drag & Drop (github.com/atlassian)
   • The pass Statement: How to Do Nothing in Python
   • This repository has the source code for Comprehensive Rust 🦀, a multi-day Rust course developed by the Android team.
   • Primer on Python Decorators
   • Trix - 글쓰기를 위한 Rich Text 에디터 (github.com/basecamp)
   • git-cliff can generate changelog files from the Git history by utilizing conventional commits as well as regex-powered custom parsers.
   • How to use Google Maps Scraper for OSINT
   • HEIC 파일 포맷 지원을 통한 사용자 경험 향상 시키기
   • 개발자를 잠 못 들게 만드는 코드
   • Python Operators and Expressions Quiz
   • Python's Format Mini-Language for Tidy Strings
   • The 4 best programming languages to learn
   • HOW DISCORD MOVED ENGINEERING TO CLOUD DEVELOPMENT ENVIRONMENTS
   • sqlelf - A tool that utilizes SQLite's virtual table functionality to allow you to explore Linux ELF objects through SQL.
   • Python Virtual Environments: A Primer
   • What are some good python codebases to read? ☶ ask python
   • Syntax Error #11: Debugging Python
   • Show GN: Github용 static site generator (github.com/joone)
   • GN⁺: NotepadNext - Notepad++의 크로스플랫폼 구현체 (github.com/dail8859)
3. DevOps
   • Announcing bpftop: Streamlining eBPF performance optimization
   • Linux Crisis Tools
   • Are Copilots Ready to Provision Your Infrastructure?
   • GN⁺: Maestro - 모바일 앱 자동화 UI 테스팅 프레임워크 (github.com/mobile-dev-inc)
   • “IT 서비스 중단의 주요 원인은 네트워크 및 연결 문제” 업타임 인스티튜트 조사
   • Portr - 소규모 팀을 위한 ngrok 대체제 오픈소스 (github.com/amalshaji)
   • Load Balancing
   • Portr is a tunnel solution that allows you to expose local http, tcp or websocket connections to the public internet. It utilizes SSH remote port forwarding under the hood to securely tunnel connections.
   • web-traffic-generator - A quick and dirty HTTP/S "organic" traffic generator.
4. 설계
   • Microservices Design Principles You Really Need To Learn
   • 설계란 고민의 연속이다 2편
   • 동일한 비용으로 리포트 요청 10배 처리하기: 적절한 공수로 Throughput 을 많이 끌어올릴 방법은 없을까?
   • 디자인 시스템, 코드를 넘어서
   • A Feature Dataset of Microservices-based Systems
   • Video lectures, CMU 15 440 / 640 Distributed Systems spring 2022, by Mahadev Satyanarayanan, Padmanabhan Pillai
   • Uncovering the Seams in Mainframes for Incremental Modernisation
5. 경력 관리와 개발문화
   • 브라우저의 렌더링 엔진의 동작과정 많이 바뀌었다. 아무개 블로그나 FE빈출 기술면접 질문리스트 말고 최근걸로 공부하자
   • 심화되는 AI 인재 경쟁… 어떻게 기술 격차 줄일 수 있을까
   • 503 days working full-time on FOSS: lessons learned
   • 설마했는데…“이건 쇼크다” 발칵 뒤집힌 ‘국민 메신저’
   • AI 스타트업 투자 열기 가라앉나… "정점후 하락세"
   • 팀스파르타, 올 1분기 매출 140억 돌파…영업익 25억원 ‘역대 최대’
   • 주니어 개발자가 면접을 앞두고 준비한 것들
   • 여자 반장님이 회계사 때려치우고 공사장에서 노가다 하는 이유 l 최인라 페인트 2부
   • 여행하듯 살고, 살 듯 여행하다…일탈 아닌 일상 찾는 MZ세대 여행법
   • 웹사이트의 첫 삽부터 나무를 기르기까지: 당근닷컴 디벨롭의 여정
   • AI가 기술 인력 해고를 촉진하고 있을까?
   • 직원 당 1,175억 원 가치 인정받은 기업도 있다?··· CB인사이츠, 2024년 AI 100 발표
   • “잘못된 대처의 종합판” 맥도날드 IT 장애 대응이 문제인 이유
   • [독후감] 두려움 없는 조직
   • GN⁺: AI에 의해 대체되는 일자리 - 5백만 프리랜서 직업 분석 (bloomberry.com)
   • 계속되는 빅테크의 '군살빼기'…아마존 웹서비스 수백명 감원
   • 개발자에서 QA 전문가로! QA의 세계 | Tech In LINE
   • In the age of the broken ‘career ladder’, here’s how to zigzag towards the job you want
   • LINE SHOPPING JP, 글로벌 협업 프로세스 개선 회고
   • 네이버 Yorkie TF 인턴 생존기
   • 쿠팡에 막히고 알리에 치이고…K커머스 새싹투자 떡잎부터 '뎅강'
   • “시간 낭비 돈 낭비…” 사무실 출근을 꺼리는 직원들의 속마음
   • “AI가 일자리 800만 개 위협” 영국 공공정책연구소 경고
   • “생성형 AI, 채용 우선순위도 바꾼다” 고용 시장에 부는 변화의 바람
   • GN⁺: 신입사원이 더 많은 급여를 받을 때, 최고의 성과를 내는 직원이 가장 먼저 사직함 (hbr.org)
   • 아마존은 C커머스 공세에 어떻게 대응하는가
   • 기업 현장에서 체감하는 한국 STEM 인재 양성의 위기 신호
   • github-drama (community fork #2) - This is a curated collection of "dramatic" GitHub interactions.
   • 1인 개발자로 행복하게 살기.
   • 당신은 사람들을 너무 늦게 해고하고 있어요 (zaidesanton.substack.com)
   • 지난 일 잊고 가진 것에 집중…다시 희망 찾아서
   • 적자에 해고까지…토종 밀폐용기 '락앤락'의 추락

보안/클라우드/데이터베이스 관련 소식

1. 보안
   • Two Stories for "What is CHERI?"
   • Exploiting null-dereferences in the Linux kernel
   • '더 나은 오픈소스 보안을 위한 가이드' OWASP 상위 10대 OSS 위험 톺아보기
   • What we know about the xz Utils backdoor that almost infected the world
   • New ‘Loop DoS’ attack may impact up to 300,000 online systems
   • New UEFI vulnerabilities send firmware devs industry wide scrambling
   • Cloudflare wants to put a firewall in front of your LLM
   • Hackers target Docker, Hadoop, Redis, Confluence with new Golang malware
   • Who Am I? Conditional Prompt Injection Attacks with Microsoft Copilot
   • ComPromptMized: Unleashing Zero-click Worms that Target GenAI-Powered Applications
   • GitHub besieged by millions of malicious repositories in ongoing attack
   • Build Applications with ‍Fully Homomorphic Encryption (FHE)
   • GitHub’s new AI-powered tool auto-fixes vulnerabilities in your code
   • 구글 ‘시크릿 모드’ 소송 합의를 둘러싼 오해와 진실
   • 피싱 이메일과 유사한 기업 이메일… '익숙해지는 것이 문제'
   • 구글 “지난해 발견된 취약점, 서드파티 코드 많아”
   • 패러럴 포트에 클립을 끼워 노트북 암호를 초기화
   • Alice & Bob - A History of The World’s Most Famous Cryptographic Couple
   • ‘쿠키 대란’ 발등에 불 떨어진 줄도 모르는 한국 언론
   • GN⁺: V8 Sandbox (v8.dev)
   • “2023년 악용된 제로데이 취약점, 전년 대비 50% 이상 증가” 구글·TAG 공동 보고서
   • 크롬 브라우저, TPM 이용해 쿠키 복제 차단…오픈소스 툴로 공개
   • “자가 점검 체크리스트 포함” SK쉴더스, ‘2024 클라우드 보안 가이드북’ 발간
   • Revisiting the Black Sunday Hack - A DirecTV story
   • GN⁺: xz 오픈소스 공격의 전체 타임라인 정리 (research.swtch.com)
   • How one volunteer stopped a backdoor from exposing Linux systems worldwide
   • xz-utils backdoor: how to get started
   • GN⁺: 오픈 소스 프로젝트 내 상호작용의 축소판인 xz 백도어 이슈 (robmensching.com)
   • AI hallucinates software packages and devs download them – even if potentially poisoned with malware
   • 구글·유튜브서 사칭 광고하면 경고 없이 계정 영구 정지
   • To search for leaked credentials using Google Chrome's Developer Tools and regex, follow these short steps:
   • xz-vulnerable-honeypot - An ssh honeypot with the XZ backdoor. CVE-2024-3094
   • FAQ on the xz-utils backdoor (CVE-2024-3094)
   • 홍진경 "사기 피해 1조 라던데…'홍진경 경제학부' 그런 거 없다"
   • Endlessh-Go - SSH 봇/스캐너용 함정의 Go 구현체 (github.com/shizunge)
2. 클라우드
   • Simplifying AWS Lambda. Understanding Reserved vs. Provisioned Concurrency
   • Google Cloud Next 2024에서 발표된 주요 내용 (techcrunch.com)
   • AI로 본격 재편되는 GCP··· 구글 클라우드 넥스트 2024의 핵심 발표 6가지
   • 구글 클라우드 넥스트 2024, AI 플랫폼 혁신과 생태계 비전 제시
   • ‘레디스 무임승차’ AWS의 당혹스러운 ‘벨키 포크’
   • AI가 주도하는 클라우드 성장, 문제는 없는가?
   • 'AI로 인해 클라우드 인프라 지출 크게 증가'… IDC 보고서
   • Microsoft Azure Introduces Retina: a Cloud Native Container Networking Observability Platform
   • How You Can Simplify Cloud Development with Winglang?
   • Optimizing Costs in the Cloud: Embracing a FinOps Mindset
   • Bringing Python to Workers using Pyodide and WebAssembly by CloudFlare
   • 마이크로소프트 레티나로 쿠버네티스 네트워크 모니터링하기
   • AWS API키 유출 고민없이 안전하게 애플리케이션 코드 작성하기
   • Amazon GuardDuty EC2 Runtime Monitoring 정식 출시
3. 데이터베이스
   • Flyweight - SQLite 용 ORM (github.com/thebinarysearchtree)
   • GN⁺: go-mysql-server - MySQL과 호환되는 순수 Go 언어로 작성된 데이터베이스 엔진 (github.com/dolthub)
   • Otter - Go를 위한 고성능 인-메모리 캐시 (github.com/maypok86)
   • GN⁺: DrawDB - 온라인 데이터베이스 다이어그램 편집기 오픈소스 (github.com/drawdb-io)
   • Microsoft Announces Garnet: a New Open-Source Cache-Store and Redis Alternative
   • production-sqlite-in-go - Companion repository for GopherCon presentation on "Production Applications Using SQLite & Go"
   • PostgreSQL clustering solutions
   • fun fact: SQLite is the most deployed and most used database. There are over one trillion (1e12) SQLite databases in active use. It is maintained by three people. They don't allow outside contributions.
   • pgwire - PostgreSQL Wire Protocol의 Rust 구현체 (github.com/sunng87)
   • Code from my (Python) "SQLAlchemy 2 In Practice" book.
   • Apache Kvrocks - 분산 키/밸류 NoSQL DB (github.com/apache)
   • GN⁺: MongoDB에서 PostgreSQL로 대규모 이전한 후기 (infisical.com)
   • pgvecto.rs is a Postgres extension that provides vector similarity search functions. It is written in Rust and based on pgrx.
   • GN⁺: Redis 자리를 차지하기 위한 대체제 경쟁 (lwn.net)

(보너스: How hard can strings be? /s via @0xglitchbyte and 오른쪽에 얘네를 추가해야함 const char* char[] wchar_t* const wchar_t* wchar_t[] char8_t* const char8_t* char8_t[] char16_t* const char16_t* char16_t[] char32_t* const char32_t* char32_t[] via @simnalamburt)

EOB

[독서광] 쉽고 빠르게 익히는 실전 LLM

이번 주는 쉽고 빠르게 익히는 실전 LLM을 소개하겠다.

방송 스크립트는 전체 공개되어 있으며, 슬라이드셰어에서 보거나 다운로드 받을 수도 있다.

하이라이트를 요약 정리하면 다음과 같다:

• 00:00 도입
• 00:54 한 페이지 요약
• 02:23 이 책의 목차
• 05:14 무엇이 이 책을 흥미롭게 만드는가?
• 09:03 대상 독자
• 11:07 결론과 마무리

EOB

[B급 프로그래머] 4월 1주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

(오늘의 짤방: 시도하는 사람 vs 시도하지 않는 사람 출처: 오타니 쇼헤이의 쇼타임, 고다마 미쓰오 via @superwriter123)

1. 빅데이터/인공지능
   • AI 음악으로 가장 인기 높은 키워드는 '이것'
   • “LLM 수준 비교·분석하세요”··· S&P, LLM 벤치마크 도구 및 순위 공개
   • LLM pricing cost quality
   • LLM cost vs performance
   • 더 뜨거워진 양자 컴퓨팅 경쟁…MS “역대 가장 안정적인 큐비트”
   • JS-Torch - PyTorch 와 비슷한 Javascript 라이브러리 (github.com/eduardoleao052)
   • 데이터는 못 보내지만 Cloud LLM은 쓰고싶어
   • 한 번 클릭으로 AI모델 배포…클라우드플레어-허깅페이스, “AI앱 글로벌 확장 돕는다”
   • 삼성SDS, 생성형 AI로 제조 혁신 이끈다…“ERP·SRM·RPA와 AI 연계”
   • 美 아마존 매장서 자동 결제 '저스트 워크 아웃' 폐지... 스마트 카트로 전환
   • 직원 당 1,175억 원 가치 인정받은 기업도 있다?··· CB인사이츠, 2024년 AI 100 발표
   • 생성형 AI 구축의 최대 난제와 모범 사례에 대한 조언들
   • ‘안락함의 반대급부’ IT 자동화의 함정 6가지
   • 게시판 정보 천국 ‘레딧’, AI 훈련에 쓰일 ‘인간의 경험’을 팔려고 한다
   • 발전 속도 빠르지만… AI 과대 광고와 미성숙에는 '주의'
   • 오픈AI, 음성 복제 기술 ‘보이스 엔진’ 발표··· 교육,의료,공공 활용 사례 공개
   • '모델에 구애받지 않는 AI 구축'… 로켓모기지의 AI 접근법
   • RAGFlow - OCR 및 문서 파싱 기반 오픈소스 RAG 엔진 (github.com/infiniflow)
   • FABLES: Evaluating faithfulness and content selection in book-length summarization
   • AI가 만든 이미지처럼 보이게 않게 하라...광고 업계 '고군분투'
   • C4AI Command R+ is an open weights research release of a 104B billion parameter model with highly advanced capabilities, this includes Retrieval Augmented Generation (RAG) and tool use to automate sophisticated tasks.
   • Why is everyone all of a sudden so excited about ✨binary quantization✨?
   • Generative Software Engineering
   • How Amazon's Big Bet on 'Just Walk Out' Stumbled?
   • A Survey on LLM-based Autonomous Agents
   • anakin.ai - AI 기술 종합 정리 사이트
   • '디지털 혁신' LS, AI·빅데이터·스마트에너지 접목한 솔루션 구축
   • GN⁺: SWE-agent, GitHub 이슈 해결률 12%의 자동 개발 에이전트 (github.com/princeton-nlp)
   • IPEX-LLM - LLM을 인텔 CPU/GPU에서 실행하기 위한 PyTorch 라이브러리 (github.com/intel-analytics)
   • Enchanting Program Specification Synthesis by Large Language Models using Static Analysis and Program Verification
   • ML Olympiad 2024: Globally Distributed ML Competitions by Google ML Community
   • Full Steam Ahead: The 2024 MAD (Machine Learning, AI & Data) Landscape
   • Amazon Ditches 'Just Walk Out' Checkouts at Its Grocery Stores
   • Redefine statistical significance
   • W&B, 한국어 LLM 리더보드 '호랑이’ 공개..."한국은 아시아 내 가장 중요한 시장"
   • rag-search - RAG Search API by thinkany.ai
   • Nvidia가 개설한 무료 AI 강좌들 (nvidia.com)
   • T-Rex - Towards Generic Object Detection via Text-Visual Prompt Synergy.
   • GR as MVDR - This repository contains the code to reproduce the experiments from our paper Generative Retrieval as Multi-Vector Dense Retrieval, which has been accepted by SIGIR'24.
   • Long-context LLMs Struggle with Long In-context Learning
   • Mini-Gemini: Mining the Potential of Multi-modality Vision Language Models
   • 브라우저에서 PDF와 이미지 OCR 직접 실행하기 (simonwillison.net)
   • Advanced Document Parsing For Enterprises
   • Intel® Neural Compressor - An open-source Python library supporting popular model compression techniques on all mainstream deep learning frameworks (TensorFlow, PyTorch, ONNX Runtime, and MXNet)
   • Efficient Post-training Quantization with FP8 Formats
   • Do you need LLM to output structured JSON?
   • Knowledge Distillation is a great way to reduce model complexity.
   • If you are using jupyter notebooks for Python and Data Science, try these 7 magic commands that will save you a ton of time:🧵
   • Deep Learning Foundations by Soheil Feizi : Large Language Models
   • 아마존, ‘오픈AI 대항마’ 앤트로픽에 27억 달러 추가 투자
   • 마이크로소프트, 애저 AI 스튜디오에서 생성형 AI용 안전 및 보안 도구 지원
   • 그렇다면 GPT란 무엇일까요? 트랜스포머에 대한 시각적 소개 | 딥 러닝, 5장
   • RAGFlow is an open-source RAG (Retrieval-Augmented Generation) engine based on deep document understanding.
   • 10 open source AI platforms for innovation
   • FinanceBench: A New Benchmark for Financial Question Answering
   • Negativity drives online news consumption
   • GN⁺: LLaMA, 이제 CPU에서 더 빠른 속도로 작동 (justine.lol)
   • '살인적 노동강도' 웹툰작가 돕는 'AI 금손'...작업시간 70% 단축
   • The Strange Practices at The Broadcaster's Inn • Broadcasting in NumPy (A NumPy for Numpties article)
   • How to Fit Large Language Models in Small Memory: Quantization
   • Running OCR against PDFs and images directly in your browser
   • Building Your Own Product Copilot: Challenges, Opportunities, and Needs
   • Grok-1.5 발표 (x.ai)
   • GN⁺: OpenVoice - 다재다능한 인스턴트 음성 복제 기술 (research.myshell.ai)
   • Databrix Announces DBRX, an Open Source General Purpose LLM
   • Jamba - 프로덕션급 Mamba 기반 AI 모델 (maginative.com)
   • 미래 교실을 만드는 콴다의 AI 기술
   • Can Language Models Pretend Solvers? Logic Code Simulation with LLMs
   • LogicKor: 한국어 언어모델 다분야 사고력 벤치마크 (github.com/StableFluffy)
   • Generative AI to quantify uncertainty in weather forecasting
   • Early prediction of sepsis using chatGPT-generated summaries and structured data - 1243: Multi-modal Information Analysis and Applications based on Chat-GPT
   • 율촌, 검색 AI 도입…"2년차 변호사급 실력"
   • ‘콘크리트보다 AI에 집중’··· 스위스 연방 철도 CIO
   • MS, ‘환각 및 취약점 감지 도구’ 애저 AI 서비스에 추가
   • 일문일답 | “생성형 AI 시대, 학위 아닌 ‘기술’ 중심 교육 더 증가할 것” 유데미 콘텐츠 전략 부사장
   • How good is GPT-4-Vision at extracting text from images?
   • Perplexity-Inspired LLM Answer Engine
   • 데이터브릭스, 범용 대형언어모델 ‘DBRX’ 출시
   • 실제 위험뿐만 아니라··· AI 시대 새로운 과제는 '사람들의 우려 수준'
   • 기업 생성형 AI 어디에 어떻게 쓰이나 봤더니
   • AutoBNN: Probabilistic time series forecasting with compositional bayesian neural networks
   • 💰💡Save Memory (and Money) in RAG pipeline with @Cohere's Int8 and Binary Embeddings
   • SKT, 빅테크와 AI 동맹 속도...연내 통신특화 LLM 상용화
   • GN⁺: Ask HN: LLM들의 소음에 묻히지 않는 ML 분야의 동향은 무엇인가? (news.ycombinator.com)
   • Logging OpenAI API requests and responses using HTTPX
   • Toolify - AI 웹사이트 & 도구 디렉토리 (toolify.ai)
   • Introducing DBRX: A New State-of-the-Art Open LLM
   • Adobe and Microsoft partner to bring new generative AI capabilities to marketers as they work in Microsoft 365 applications
   • GN⁺: DBRX - 새로운 최첨단(SOTA) 오픈 LLM (databricks.com)
   • Codel - 복잡한 작업을 처리해주는 완전 자동 AI 에이전트 (github.com/semanser)
   • JavaScript RAG Web Apps with LlamaIndex
   • [어도비서밋2024] “생성형AI로 디지털 광고 몇 분만에 생성 가능”
   • A comparison of Human, GPT-3.5, and GPT-4 Performance in a University-Level Coding Course
   • ChatDBG: An AI-Powered Debugging Assistant
   • LLMLingua Series | Effectively Deliver Information to LLMs via Prompt Compression
   • BinaryVectorDB - Efficient Search on Large Datasets
   • 셀프서비스, 챗봇에게 물어보세요
   • Assessing GPT-4 for cell type annotation in single-cell RNA-seq analysis
   • TorchTune - Meta가 공개한 LLM 파인 튜닝을 위한 Pytorch 라이브러리 (github.com/pytorch)
   • 엔비디아, 생성형 AI 마이크로서비스 출시… 생성형 AI 코파일럿 배포 지원
   • OpenDevin - AI 소프트웨어 엔지니어 Devin의 오픈소스 구현체 (github.com/OpenDevin)
   • "대기업일수록 4차 산업혁명 기술 도입 적극적…IT·금융보험업 최고"
   • [그게 뭔가요] 오픈AI도 긴장하는 ‘앤트로픽’은 누구?
   • Sora: first impressions - We have gained valuable feedback from the creative community, helping us to improve our model.
   • VideoPrism: A foundational visual encoder for video understanding
   • 16 Changes to the Way Enterprises Are Building and Buying Generative AI
   • What Should Data Science Education Do with Large Language Models?
   • ✨ sentence-transformers started supporting Embedding Quantization and GISTEmbedLoss
   • Perspectives on R in RAG
   • Build a Large Language Model (From Scratch)
   • Understanding P-Values is essential for improving regression models. In 2 minutes, learn what took me 2 years to figure out.
   • <랭체인LangChain 노트> - LangChain 한국어 튜토리얼🇰🇷
   • VoiceCraft: Zero-Shot Speech Editing and Text-to-Speech in the Wild
   • Using Large Language Models with Python
   • Towards increased truthfulness in LLM applications
   • Guide to Time-Series Analysis in Python
   • 🚀 Devika - Agentic AI Software Engineer 👩‍💻
   • Binary and Scalar Embedding Quantization for Significantly Faster & Cheaper Retrieval
   • Zero-Knowledge Proofs for the Layman
   • Financial Agent - This is a financial agent built on Langchain and FastAPI. It can access current price, historical prices, latest news, and financial data for a ticker via the Polygon API.
   • Maestro - A Framework for Claude Opus to Orchestrate Subagents
   • LLM Pricing vs. Speed 💰
2. 하드웨어
   • “TSMC 지진피해 예상보다 커”… ASML, 韓직원 대만 보내
   • 대만 강타한 지진… “칩 공급 및 제조에 차질은 없을 듯”
   • 전쟁이 키운 드론, 무한 확장 중
   • 2년 후에도 GPU 골드러시 계속될까
   • 삼성 AI 냉장고는 당신이 저녁에 뭘 먹을지 알고 있다
   • ‘AI, HPC 요구에 대응하려면...’ 이더넷 업그레이드 가속화 움직임
   • 인텔, AI PC에서 온디바이스로 작동하는 MS 코파일럿 언급
   • 우리는 엔비디아의 시대에 살고 있습니다(下)[김성모 기자의 신비월드]
   • Revisiting the Black Sunday Hack
   • GN⁺: 마이크로소프트와 OpenAI, 1000억 달러 규모의 슈퍼컴퓨터 "Stargate AI" 계획 (gizmochina.com)
   • 인텔 가우디 2 AI 가속기, 엔비디아 H100의 유일한 '생성 AI 인프라' 대안으로?
   • 우주 방사선 피격! 인공위성의 DNA를 지켜라.
   • 마이크로소프트가 말하는 AI PC의 조건, “NPU와 키보드 스티커”
   • Intel introduced the 8088 processor in 1979.
3. 읽을거리
   • "어묵공장 문 닫을 뻔 했는데"…850억 대박 '화려한 부활' [권용훈의 직업 불만족(族)]
   • “쇼핑몰 ‘뽁뽁이’는 해양 오염 주범··· 아마존·이커머스 업계 포장재 더 줄여야” 美 오세아나 보고서
   • [인터뷰] "'내가 너를 가르치겠노라' 하는 종교, 반드시 망한다"
   • “2023년 모바일 마케팅 성과 만족한다” 마케터 10명 중 2명에 불과해
   • 아마존은 C커머스 공세에 어떻게 대응하는가
   • [일반] 통일되어도 식량난 걱정은 필요없는 이유
   • 다큐 프라임 - 자본주의 1부. 돈은 빚이다
   • Melting ice solves leap-second problem — for now
   • Ozempic, Novo’s $1,000 Diabetes Shot, Can Be Made for Under $5 a Month
   • 출판사 직원이 뽑은 올해의 책
   • 첫 스승이 떠올린 임윤찬… “4년 먼저 시작한 친구들 1년도 안 돼 따라잡아” [차 한잔 나누며]

EOB