[B급 프로그래머] 9월 5주 소식(개발/설계/경력관리/보안/클라우드/데이터베이스 관련 소식 정리)

(오늘의 짤방: Google logo evolution via @WebDesignMuseum)

개발 관련 소식

1. 팁과 유틸리티
   • “설치 없이 즐긴다” 윈도우 11 23H2 업데이트에 ‘인스턴트 게임’ 기능 도입
   • “윈도우에 AI가 온다” 윈도우 11 23H2 업데이트 미리보기
   • vs-rest-api - A Visual Studio Code (VS Code) extension that provides a REST API to control your editor.
   • « SSH Kung Fu »
   • Intellij IDEA LiveTemplates - These are my custom IntelliJ IDEA Live Templates for Java that I am currently using.
   • 온라인 Favicon 생성기 (favicon.software)
   • 웹 개발 시간을 줄여주는 팁 4가지
   • 드디어 MS Paint가 레이어 및 투명 PNG 지원 추가 (arstechnica.com)
   • [팁] 유심기변 개악이야기..
   • “스크린샷에서 바로 텍스트 복사한다” 윈도우 11 인사이더 프리뷰 업데이트
   • "5개 키 조합된 단축키의 기능?" 가장 쓸모 없는 윈도우 단축키 탄생
   • 애플 ‘iOS 17’ 출시…업데이트해도 아직은 볼 수 없는 기능 12가지
   • “숨어 있는 정크 파일까지 샅샅이” 윈도우 PC를 완벽 정리하는 5단계
2. 프로그래밍
   • Thread Safety in Python
   • Kotlin with Spring(Thoughtworks Technology Radar)
   • Docker Best Practices for Node Developers
   • GraalVM for JDK 21 Delivers Performance Enhancements and Improved Developer Experience
   • Spring Boot 3.0 Migration Guide
   • Neboa - Type-safe NoSQL for Node.js (github.com/aerotoad)
   • If you're a Go developer, you probably work with channels & goroutines all the time. Concurrency ftw!
   • 🐍📰 Python 3.12 Preview: Static Typing Improvements
   • MPIRE, short for MultiProcessing Is Really Easy, is a Python package for multiprocessing.
   • While learning OAuth 2.0 / OpenID Connect, the following resources are very helpful:
   • ClickHouse Keeper: A ZooKeeper alternative written in C++
   • blendicons - 14만개 이상의 무료 아이콘 (blendicons.com)
   • Python Map() | How to use the map() function with different types of sequences
   • You can execute SQL Queries using Python & load the results in a Pandas DataFrame! 🐼
   • ts-remove-unused - Remove unused code from your TypeScript project
   • GN⁺: macOS Containers v0.0.1 (macoscontainers.org)
   • OpenDAL is a data access layer that allows users to easily and efficiently retrieve data from various storage services in a unified way.
   • TypeScript Origins: The Documentary [81분] (youtube.com)
   • Script to search #Java21 javadoc from command line.
   • The Java Playground
   • Welcome to Taipy - Turns Data and AI algorithms into full web applications in no time.
   • Ivan on Containers, Kubernetes, and Backend Development (Newsletter)
   • Unity, 커뮤니티에 보내는 공개서한을 통해 라이센스 수정 철회 (blog.unity.com)
   • 오늘은 Total Commander의 30주년이 되는 날입니다
   • Litestar is a powerful, flexible yet opinionated ASGI framework, focused on building APIs, and offers high-performance data validation and parsing, dependency injection, first-class ORM integration, authorization primitives, and much more that's needed to get applications up and running.
   • When to use classes in Python? When you repeat similar sets of functions
   • Reverse shell using curl
   • GoSub: Gateway to Optimized Searching and Unlimited Browsing - A feeble attempt on writing a browser and learning rust.
   • Build reliable and secure C++ programs
   • 한없이 무모한 웹 브라우저의 기능 확장
   • Cognitive Complexity, Because Testability != Understandability
   • Learn react - Quick Start
   • Java 21: The Nice, The Meh, and the ... Momentous
   • Pyflyby is a set of Python programming productivity tools for Python 3.7+.
   • Speeding up your code when multiple cores aren’t an option
   • Big news from last week's @GraalVM for @Java 21 release was that we can finally demonstrate that AOT (with profile-guided optimizations) can outperform JIT for all major metrics including throughput!
   • GraalVM for JDK 21 is here! 🚀
   • Lit is a simple library for building fast, lightweight web components.
   • Visualizing CPython Release Process
   • Using JLink to create smaller Docker images for your Spring Boot Java application
   • Node.js Alternative Bun Now Generally Available
   • A categorized list of all Java and JVM features since JDK 8 to 21
   • Tiny Python Projects is a progression of coding challenges designed to take you from novice to Pythonista.
   • Object-Oriented Programming (OOP) in Python 3
   • The Big Book of Small #Python Projects — 81 small projects for beginners designed to build programming skills and teach new techniques
   • 그간 출간한 모든 서적의 '환경 설치' 내용을 무료 공개합니다.
   • NextUI - Make beautiful websites regardless of your design experience. Beautiful, fast and modern React UI library.
   • Hello, Java 21 (Spring)
   • Migrating From Unity to Other Game Engines
   • Ruby 3.3의 YJIT는 Shopify 프로덕션 코드를 15% 빠르게 동작시킴 (railsatscale.com)
   • 🐍📰 How to Catch Multiple Exceptions in Python
   • The easy way to concurrency and parallelism with Python stdlib
   • JavaScript의 using을 사용해 보자 - Part 1
   • [네트워크] WSGI와 Python 1편
   • Bytewax is a Python framework that simplifies event and stream processing.
   • Java 21 / JDK 21: General Availability (mail.openjdk.org)
   • Sapling SCM is a cross-platform, highly scalable, Git-compatible source control system.
   • Building a blog in Django
   • 선착순 티켓 예매의 동시성 문제: 잠금으로 안전하게 처리하기
   • Docker Best Practices for Python Developers
   • 한눈에 비교해 보는 iOS 디바이스별 정보 'Screensizes'
   • What Every Programmer Should Know About Memory
   • 파이썬의 리스트 컴프리헨션(list comprehension)과 조건제시법(set builder natation)
   • PySpark, Dask or Ray, how to scale your python workloads?
   • Rate Limiting in REST APIs (Using SpringBoot and Redis)
   • 삶이 편해지는 파이썬 팁들
   • GN⁺: Subdomain Center - 모든 서브도메인 찾기 (subdomain.center)
   • RecipeUI - 오픈소스 Postman 대체제 (recipeui.com)
   • 유니티, 언리얼 써본 게임 개발자가 고도 엔진(Godot Engine)을 찍먹 해보고
   • Spring Addons is an amazingly useful library if you work with Spring Security, strange it is not more widely known.
   • Limited JSON API for Google searches using Programmable Search Engine
   • Unity 이후의 게임 개발 (computerenhance.com)
   • “The C Programming Language” 소개글
   • Why and How CPython use Bloom Filters inside some of its String APIs, such as splitlines and strip?
   • After playing about with SwiftUI a bit the last couple weeks, I was curious on how the render times compare to React Native & Flutter.
3. DevOps
   • K3s Explained: What is it and How Is It Different From Stock Kubernetes (K8s)?
   • Kopia - 빠르고 안전한 오픈소스 백업 소프트웨어 (kopia.io)
   • 천고마비의 계절, 컨테이너 다이어트하기
   • 10-Step Kubernetes Learning Path 👇
   • Containers vs. Pods - Taking a Deeper Look
   • How GitHub uses GitHub Actions and Actions larger runners to build and test GitHub.com
   • How FBI hackers or Forensics Team identify fake Images
   • 랠릿 standalone 적용기
   • 내 스타트업에서 Splunk를 대체하는데 사용한 파이썬 스크립트 파일 1개 (github.com/Dicklesworthstone)
   • CloudNativePG - PostgreSQL을 Kubernetes 방식으로 실행하기 (cloudnative-pg.io)
   • OpenNext takes the Next.js build output and converts it into a package that can be deployed to any functions as a service platform.
   • Understanding gRPC Load Balancing in Kubernetes with istio Shrishs
   • Kafka As An Antipattern
   • YAML Tips for Kubernetes
   • Infrastructure Monitoring Basics with Telegraf, InfluxDB, and Grafana
   • How to (Right) Size a Kubernetes Cluster for Efficiency
   • Welcome to Comprehensive Rust 🦀 (구글 안드로이드 팀 내부 학습 자료)
   • windows-drivers-rs - This repo is a collection of Rust crates that enable developers to develop Windows Drivers in Rust.
   • Step-By-Step Guide: Installing Nginx Ingress on K3s Pi 4 Cluster
   • GN⁺: HyperDX - 개발자 친화적인 Datadog 대체제 오픈소스 (github.com/hyperdxio)
4. 설계
   • RESTful API란 무엇입니까?
   • System Design Blueprint: The Ultimate Guide
   • A Guide to Microservices Design Patterns for Java
   • DEATH BY A THOUSAND MICROSERVICES - The software industry is learning once again that complexity kills
   • How to Disagree Like a Leader: Navigating Workplace Conflicts with Harvard’s HEAR Framework
   • 2023년 웹 디자인의 타이포그래피 트렌드 (uxplanet.org)
   • Building like it's 1984: A comprehensive guide to creating intuitive context menus
   • NFS > FUSE: 우리가 자체 NFS 서버를 Rust로 개발한 이유 (about.xethub.com)
   • 미국 연방 정부, 공식 웹 디자인 시스템 발표 (boingboing.net)
   • How does Facebook handle billions of async requests?
   • GN⁺: 인스타그램이 오직 3명의 엔지니어로 1400만 사용자를 확보한 방법 (engineercodex.substack.com)
5. 경력 관리와 개발문화
   • Why I Encourage My Best Employees to Consider Outside Job Offers
   • When You Realize You’ll Never Get Your Dream Job
   • Great Leaders Are Thoughtful and Deliberate, Not Impulsive and Reactive
   • What Makes Some Teams High Performing?
   • "임원 승진,생각 없다"는 이들에게...
   • 코딩테스트 고득점 Kit - 코딩테스트에는 어떤 알고리즘/자료구조가 출제될까요?
   • 샐러드 배송 '프레시코드' 결국 파산
   • 혼자서 소개팅 앱을 운영하며 월 1000만원의 순수익을 벌어가는 한국인 개발자 (feat. 2년 동안 버텼다)
   • "당신을 해고합니다, AI 때문에"…미국서 4000명 짐 쌌다
   • ‘애자일 관행’이 ‘디지털 재앙’으로 변할 때 나타나는 5가지 징후
   • "Why You Should Use Different Leadership Styles?" by Milan Milanovic
   • QA 엔지니어가 들려주는 QA 트렌드 | 라인개발실록
   • What is a Full Stack Developer? 2022 Full Stack Engineer Guide
   • 해고 대신 퇴사 유도 ‘조용한 감축’이 늘고 있다?··· 전문가들의 진단과 제언
   • 15년간 면접에 진심이었던 회사가 면접을 폐지한 이유 - [인터뷰] 마이다스그룹 이형우 CHO에게 듣는 역검(역량검사) 비하인드 스토리
   • [단독]잊혀지는 메타버스...전력투구하던 컴투스, 결국 구조조정 돌입
   • "첫 달은 고용주의 수습 기간" 기업의 주요 과제로 대두되는 온보딩
   • 배민, 근무지 자율 선택제 폐지…지정일 필수 출근에 구성원 반발
   • How to Design an Agenda for an Effective Meeting
   • 𝗛𝗼𝘄 𝘁𝗼 𝗱𝗼 𝗰𝗼𝗱𝗲 𝗿𝗲𝘃𝗶𝗲𝘄𝘀 𝗽𝗿𝗼𝗽𝗲𝗿𝗹𝘆
   • "실패"라고 말하지 마세요 (longform.asmartbear.com)
   • How-to Evaluate a Product Roadmap, for Engineers
   • 최근 미국 블라인드에 메타 (페북) 개발자가 나눈 메타 개발자 인터뷰 팁인데 내용이 👍
   • “아직 끝나지 않은 실직의 두려움” 구글, 채용 담당 직원 수백 명 해고

보안/클라우드/데이터베이스 관련 소식

1. 보안
   • 양자 후 사이버 보안 위협에 미리 대비 중… 마스터카드 사례
   • 애플이 알려주지 않은 iOS 17 기능…“개인정보 보호 브라우징의 기본 검색 엔진도 바꾼다”
   • 재외국민, 한국 휴대폰번호 없어도 여권으로 본인인증
   • GPUs from all major suppliers are vulnerable to new pixel-stealing attack
   • Two part series on extracting, analysing and exploiting the firmware of a Lexmark MC3224i printer
   • Chrome Browser Exploitation, Part 3: Analyzing and Exploiting CVE-2018-17463
   • Skanuvaty - Dangerously fast dns/network/port scanner, all-in-one.
   • kernel-exploit-factory - This repository is to extract all Linux kernel exploit and relative debug environment.
   • The essentials of security incident response for SMBs
   • Google assigns new maximum rated CVE to libwebp bug exploited in attacks
   • Explaining Sessions, Tokens, JWT, SSO, and OAuth in One Diagram.
   • Mozilla OpenSSH Guideline
   • GN⁺: 너무 늦기 전에 Visual Studio Code 내장 리버스 쉘 차단하기 (ipfyx.fr)
   • Amazing Korean exchange upbit incident today
   • 깃허브에 AI 학습용 데이터 공유하다가...MS의 ‘38TB 데이터 유출 사건’의 전말
   • "코인 내놔" 알라딘·입시학원 해킹한 고딩…203억 피해
   • 강은성의 보안 아키텍트ㅣ생체인식기술과 글로벌 규제
   • 미 정부 이메일 해킹 사건에서 얻은 중요한 교훈 3가지
   • 애플 iOS17, 보안 및 프라이버시 기능 추가... "차단 모드·패스키 外"
   • GN⁺: 마이크로소프트 AI 연구자들에 의해 38TB의 데이터가 실수로 노출 (wiz.io)
   • "NHN Cloud 보안 백서"를 소개합니다
   • GN⁺: Tails - 감시 및 검열을 막아주는 휴대용 OS (tails.net)
2. 클라우드
   • 年 20%씩 크던 K클라우드, 비대면 업무 줄어 '고강도 다이어트'
   • 𝗦𝘁𝗮𝘁𝗲 𝗼𝗳 𝗦𝗲𝗿𝘃𝗲𝗿𝗹𝗲𝘀𝘀 𝟮𝟬𝟮𝟯
   • Understanding DDoS simulation testing in AWS
   • What's new and what's next at DigitalOcean: Managed Kafka, more Droplet choices, GPUs for AI/ML apps, and more
   • Cloud optimization report - How startups and SMBs are reducing their cloud costs
   • “송환 후 비용 절감했다 해도⋯” 클라우드 컴퓨팅 가치는 여전하다
   • Reliable web app pattern for Java - This reference implementation provides a production-grade web application that uses best practices from our guidance and gives developers concrete examples to build their own reliable web application in Azure.
   • Cloudflare R2 Storage allows developers to store large amounts of unstructured data without the costly egress bandwidth fees associated with typical cloud storage services.
   • 클라우드 플레어 - 2023 창립기념일 주간에 오신 것을 환영합니다
   • State of Serverless 2023 Report Suggests Increasing Serverless Adoption
   • Experience the best of PostgreSQL with OCI Database with PostgreSQL
   • Achieve data residency, availability, and scale with Oracle Globally Distributed Autonomous Database
   • Container Loading in AWS Lambda
   • 현재 AWS IPv4 자산의 가치는 6조원($4.5b) (toonk.io)
3. 데이터베이스
   • MySQL High Availability
   • Batch size one billion: SQLite insert speedups, from the useful to the absurd
   • 무뇽이와 알아보는 대규모 데이터 관리 - 데이터베이스 복제하기(리플리케이션)
   • How We Made PostgreSQL a Better Vector Database
   • 비트나인, ‘목적형 DB’ 트렌드 리드로 새로운 DBMS 제품 전략 전개
   • Pigsty "PostgreSQL In Great STYle." —— A battery-included, local-first, open-source PostgreSQL RDS alternative.
   • All the ways to capture changes in Postgres
   • JSON Updates in Postgres 16
   • GN⁺: ElectricSQL, 로컬-퍼스트 웹/앱을 위한 Postgres에서 SQLite로의 액티브-액티브 동기화 (electric-sql.com)
   • Database replication isn’t magic.
   • PostgreSQL 15 살펴보기

(보너스: YouTube video player evolution 2005–2015 via @WebDesignMuseum)

EOB

[B급 프로그래머] 9월 4주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

(오늘의 짤방: Untitled089_v1_Backup.ipynb via @paulabartabajo_)

1. 빅데이터/인공지능
   • WhatsApp-Llama - 자신의 왓츠앱 대화로 LLM 파인튜닝 하기 (github.com/Ads-cmu)
   • Quantifying GPT-4’s Hidden Regressions Over Time
   • LLM Output Parsing: Function Calling vs. LangChain
   • Now You See Me (CME): Concept-based Model Extraction
   • Why transformative artificial intelligence is really, really hard to achieve
   • EfficientML.ai Lecture 5 - Quantization (Part I) (MIT 6.5940, Fall 2023)
   • But with this prompt, you can get GPT-4 to emulate any writing style you want.
   • Learn ML in 3 steps
   • Object Detection Models 🥥 (Hugging Face)
   • OpenAI Cookbook - Open-source examples and guides
   • A test of artificial intelligence
   • GN⁺: Microsoft, 신개념 단백질 생성 AI EvoDiff를 오픈소스로 공개 (techcrunch.com)
   • You can now extract a full Pydantic object from any doc with 1 LLM call.
   • The beauty of using LLMs to evaluate e2e LLM/RAG is that they can not only be used as a “human judge” to compare generated vs. ground-truth response 🧑‍⚖️, but also be used to generate the “ground-truth” eval dataset in the first place 🧬
   • FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness
   • Distilling step-by-step: Outperforming larger language models with less training data and smaller model sizes
   • 드롭박스, 델타, PwC 등 안쓰는 곳이 없다··· 현재 기업에서 AI를 활용하는 방식 12가지
   • 오라클 래리 엘리슨 “생성형 AI, 기존 AI와는 달라··· 역사상 가장 중요한 기술”
   • LLM 모델 기반 서비스 실전 가이드
   • 구글 딥마인드 “AI에 심호흡 지시하면 수학 능력 향상"
   • What makes LLM tokenizers different from each other? GPT4 vs. FlanT5 Vs. Starcoder Vs. BERT and more
   • GN⁺: Cisco, Splunk 인수 (splunk.com)
   • 가족들에게 꼭 알려주세요! 구글 렌즈와 바드가 결합한 버전 한국어 출시!
   • Announcing Microsoft Copilot, your everyday AI companion
   • Distance Metrics in Vector Search
   • "우린 벌써 뛰고 있어" 생성형 AI를 워크플로우와 결합한 기업 3곳의 경험
   • “그래도 코딩하는 임원은 거의 없다” 로우코드ㆍ노코드 개발 ‘이상과 현실’
   • “사람처럼 대화하고 상호작용한다” 아마존, 생성형 AI 탑재한 ‘알렉사’ 공개
   • “객체 추적부터 트랙 분할까지” 알아두면 쓸모 있고 유용한 무료 ‘AI 도구’ 9선
   • The Upcoming AI Wars and The Science Behind Multimodal Large Language Models (MLLMs)
   • “Here’s one cool trick to avoid lost in the middle problems in your RAG pipeline” ‼️👇
   • LLMs & Knowledge Graphs
   • A partnership with Howard University to improve speech technology for Black voices
   • Extracting actionable data from structured documents with Amazon Textract, AWS Lambda and Amazon S3
   • Topics per Class Using BERTopic - How to understand the differences in texts by categories
   • Introducing Code Llama, a state-of-the-art large language model for coding
   • 아마존, 상품 목록 작성 돕는 새 생성형 AI 도구 배포
   • '작을 수록 좋은 것' 대규모 언어 모델은 축소되어야 한다
   • 영국 CMA, ‘건강한’ AI 파운데이션 모델 위한 7원칙 제시
   • “범용 AI는 기업용으로 부족”··· B2B 글쓰기 전문 LLM 만든 라이터, 1억 달러 투자 유치
   • PyTorch Model Performance Analysis and Optimization — Part 6
   • ‘흥분도 비관도 모두 옳다’ 생성형 AI의 경계선 체득하기
   • “더 똑똑하고 유용해졌다” 구글, 지메일·유튜브·구글 문서 등에 바드 통합
   • All You Need to Know about Vector Databases and How to Use Them to Augment Your LLM Apps
   • Doctor Dignity is a Large Language Model that can pass the US Medical Licensing Exam.
   • 메타가 개발한 대규모 언어 모델, ‘라마 2’란 무엇인가?
   • 네이버, 생성형 AI 검색 ‘큐’(Cue:) 베타 서비스 시작
   • 자율주행 레벨 3 언제 메인스트림 될까?
   • About GitHub Copilot Chat
   • Migrating From Unity to Other Game Engines
   • Create Cinematic AI Videos with Pika Labs
   • Language models are powerful, but they have limitations. Integrating LLMs with specialized tools, which is one of the most promising directions of AI research, can make them 10X more effective. Here are the four different styles of tools being explored…
   • Bard can now connect to your Google apps and services
   • DSPy: Programming—not prompting—Foundation Models
   • Binary Quantization - Vector Search, 40x Faster
   • GN⁺: DALL·E 3 (openai.com)
   • Building RAG from Scratch (Lower-Level)
   • DeepEval provides a Pythonic way to run offline evaluations on your LLM pipelines so you can launch comfortably into production.
   • The Rise and Potential of Large Language Model Based Agents: A Survey
   • How Are Consumers Using Generative AI?
   • “파리 항공편 찾아줘”…구글 바드, 이젠 똘똘한 AI 비서
   • Optimizing LLMs from a Dataset Perspective
   • Optimizing your LLM in production
   • 10 Ways to Improve the Performance of Retrieval Augmented Generation Systems
   • Summarization is (Almost) Dead
   • Generative AI Lifecycle Patterns
   • Here are 4 RAG techniques implemented in @llama_index 🦙
   • 문과생 AI수업 확대…박사학위 속성 취득
   • 구글 Bard, Extention 기능을 통한 새로운 사용법 제안 (blog.google)
   • Consciousness in Artificial Intelligence: Insights from the Science of Consciousness
   • 올거나이즈, 금융특화 AI 언어모델 '알리 파이낸스 LLM' 출시
   • RAG is more than just embedding search
   • Multimodal Foundation Models: From Specialists to General-Purpose Assistants
   • Language Modeling Is Compression
   • This notebook demonstrates how to download Microsoft and Google Building Footprints and merge them into a single vector file.
   • leafmap - A Python package for geospatial analysis and interactive mapping in a Jupyter environment.
   • NExT-GPT: Any-to-Any Multimodal LLM
   • Where do we most need AI in healthcare?
   • Google's next big swing at AI rumored to launch this fall
   • SceneXplain's Image-to-JSON: Extract Structured Data from Images with Precision
   • petals - Run large language models at home, BitTorrent-style. Fine-tuning and inference up to 10x faster than offloading
   • PDFTriage: Question Answering over Long, Structured Documents
   • Candle is a minimalist ML framework for Rust with a focus on performance (including GPU support) and ease of use.
   • Build and Scale a Powerful Query Engine with LlamaIndex and Ray
   • HumanEval: Hand-Written Evaluation Set
   • Augmenting LLMs: Fine-Tuning or RAG?
   • Why not let developers use ChatGPT during an interview?
   • Serving ML Models in Production: Common Patterns
   • Mlxtend (machine learning extensions) is a Python library of useful tools for the day-to-day data science tasks.
   • Feature-engine - A Python library for Feature Engineering and Selection
   • GN⁺: 애플의 새로운 'Transformer' 기반 예측 텍스트 모델 (jackcook.com)
   • The AutoML Dilemma - An Infrastructure Engineer’s Perspective
   • MediaPipe FaceStylizer: On-device real-time few-shot face stylization
   • 48시간만에 국내 여행 업계 최초 AI서비스 만든 사연
   • NanoSAM is a Segment Anything (SAM) model variant that is capable of running in 🔥 real-time 🔥 on NVIDIA Jetson Orin Platforms with NVIDIA TensorRT.
   • Towards a new SymPy: part 1 - Outline¶
   • Awesome Machine Learning On Source Code
   • Machine Learning for Big Code and Naturalness
   • llama2를 파인 튜닝 하고 있는 사람들 (news.ycombinator.com)
   • 알아두면 만사가 편해지는 머신러닝 10가지 알고리즘
   • Centaurs and Cyborgs on the Jagged Frontier - I think we have an answer on whether AIs will reshape work....
   • LLM Guard - The Security Toolkit for LLM Interactions
   • Candle is a minimalist ML framework for Rust with a focus on performance (including GPU support) and ease of use.
   • Candle Segment Anything - Rust/WASM Demo
   • Fine-Tuning Llama-2: A Comprehensive Case Study for Tailoring Models to Unique Applications
   • Programmatic Custom Model Creation by cohere
   • Deploy Generative AI Models on Amazon EKS
   • The Belebele Benchmark for Massively Multilingual NLU Evaluation
   • PyGraft: Configurable Generation of Schemas and Knowledge Graphs at Your Fingertips
   • Biomedical Vision-Language Models (VLMs)
   • LLM now provides tools for working with embeddings
   • Renumics Spotlight - Interactively explore unstructured datasets from your dataframe.
   • AudioSR: Versatile Audio Super-resolution at Scale
   • '통화녹음' 안 되는 아이폰···SKT AI로 가능해진다
   • [seq2seq] 간단한 seq2seq 모델 구현
   • Radiology-Llama2: Best-in-Class Large Language Model for Radiology
   • How to Optimize FastAPI for ML Model Serving
   • 벡터 유사도 검색이 무엇인가요? (What is Vector Similarity Search?) (discuss.pytorch.kr)
   • 머신러닝 분야의 임베딩에 대한 상세한 가이드 (The Full Guide to Embeddings in Machine Learning)
   • ⓍTTS is a super cool Text-to-Speech model that lets you clone voices in different languages by using just a quick 3-second audio clip.
   • ProPainter: Improving Propagation and Transformer for Video Inpainting
   • 생성형 AI의 어두운 진실 7가지
   • “윈도우 사진 앱의 르네상스” 마이크로소프트, 새로운 AI 기능 테스트
   • “나랑 스무고개 할래?” 클로바X·바드·빙챗에 물으니…
   • Generative Image Dynamics
   • How Large Language Models Assisted a Website Makeover
   • Choral Explanations
   • 7 Frameworks for Serving LLMs
   • Photoguard - Interactive Demo: Raising the Cost of Malicious AI-Powered Image Editing
   • Zoom updates terms of service to clarify that it won’t use your calls to train AI
   • Why watermarking AI-generated content won’t guarantee trust online
   • Cryptography may offer a solution to the massive AI-labeling problem
   • RT-2: New model translates vision and language into action
   • Maccarone: AI-managed code blocks in Python ⏪⏩
   • Lecture Notes for 8.370/18.435 Quantum Computation from Fall 2022(MIT)
   • Who Answers It Better? An In-Depth Analysis of ChatGPT and Stack Overflow Answers to Software Engineering Questions
   • US judge: Art created solely by artificial intelligence cannot be copyrighted
   • textfx - AI-powered tools for rappers, writers and wordsmiths.
   • Introducing txtai, the all-in-one embeddings database Add Natural Language Understanding to any application
   • Best Practices for LLM Evaluation of RAG Applications - A Case Study on the Databricks Documentation Bot
   • AI, ML, Data Engineering News Roundup: Jupyter AI, AudioCraft, OverflowAI, StableCode and Tabnine
   • Bots are better than humans at cracking ‘Are you a robot?’ Captcha tests, study finds
   • LINGO-1: Exploring Natural Language for Autonomous Driving
   • GN⁺: ExLlamaV2: 일반 GPU에서 로컬 LLMs를 실행하기 위한 빠른 추론 라이브러리 (github.com/turboderp)
   • 오픈AI의 챗GPT 엔터프라이즈, 마이크로소프트와는 어떤 관계?
   • 영화 음악부터 소음까지 생성··· 스테이빌리티AI, AI 음악 생성 모델 ‘스테이블 오디오’ 공개
   • Dive in with Coral - Coral is a knowledge assistant for enterprises 
to supercharge the productivity of their most strategic teams.
   • Stock Market Prediction on High-Frequency Data Using Generative Adversarial Nets
   • How to keep your ML spending under control
   • How will LLMs disrupt different data engineering tasks?
   • NLP research over the years:
   • Run LLMs on Any GPU: GPT4All Universal GPU Support
   • supervision - We write your reusable computer vision tools. Whether you need to load your dataset from your hard drive, draw detections on an image or video, or count how many detections are in a zone.
   • 애플은 지금 시리2.0을 향해 가고 있을까?
   • “LLM 개발을 더 간편하게” 랭체인(LangChain)의 이해
   • Fine-Tuning Your Embedding Model to Maximize Relevance Retrieval in RAG Pipeline
   • ‘AI 저작권 문제 대신 배상’… MS, 코파일럿 저작권 약정 도입
   • “시멘틱 데이터로 프롬프트 엔지니어링 패러다임 전환” 키토크AI 도준웅 대표
   • "AI가 굴리는데 영 신통찮네"…적자 쌓이는 로보어드바이저社 [긱스]
   • GN⁺: Stable Audio - 빠른 타이밍 조절형 Latent Audio Diffusion (stability.ai)
   • 🤖 New on #KaggleModels! Introducing Llama 2 from @MetaAI: a collection of pretrained and fine-tuned generative text models ranging in scale from 7 billion to 70 billion parameters. 📚 Explore, share, and upvote your favorite notebooks. Happy Kaggling!
   • ArXiv QA: (TBD) Automated ArXiv question answering via large language models
   • This is a very initial release of ExLlamaV2, an inference library for running local LLMs on modern consumer GPUs.
   • A Principal Odor Map Unifies Diverse Tasks in Human Olfactory Perception
   • Face Recognition Based Attendance System Using Python
   • LLM Applications: A comprehensive guide to building RAG-based LLM applications for production.
   • Finetuning an Adapter on Top of any Black-Box Embedding Model
   • Stable Audio - Create music with AI.
   • How to deploy ML models painlessly
   • Generative AI exists because of the transformer (Interactive article)
   • LLMs journey from Word2Vec to ChatGPT in a single frame 🤯
   • NVIDIA, LLM 추론을 가속하는 TensorRT-LLM 오픈소스 공개 (developer.nvidia.com)
   • Discover LlamaIndex: Bottoms-Up Development with LLMs (Part 5, Retrievers + Node Postprocessors)
   • Can LLMs Really Reason and Plan?
   • Morgan Stanley launches OpenAI chatbot for investment advice
   • 자바도 머신러닝 시대 준비··· GPU, 외부 모델 지원하는 ‘바빌론 프로젝트’ 시작
   • GPT-4 앞지른 ‘무료 AI’…수조 쓴 빅테크 고민 깊어진다
   • Machine Learning’s Public Perception Problem
   • Nvidia의 AI 성공 비밀 (spectrum.ieee.org)
   • I made a transformer by hand (no training!)
   • imgbeddings - A Python package to generate embedding vectors from images, using OpenAI's robust CLIP model via Hugging Face transformers.
   • CLIP (Contrastive Language-Image Pre-Training) is a neural network trained on a variety of (image, text) pairs.
   • GPT and BERT: A Comparison of Transformer Architectures
   • DiffBIR: Towards Blind Image Restoration with Generative Diffusion Prior
   • DiffBIR colab notebook
   • High Quality Entity Segmentation
   • 🐍 Natural Language Processing With Python's NLTK Package 📰
   • Financial series prediction using Attention LSTM
   • Asking 60+ LLMs a set of 20 questions
   • 세계 최대 규모 암 진단 AI 개발 뛰어든 마이크로소프트
   • From Sparse to Dense: GPT-4 Summarization with Chain of Density Prompting
   • Prompt Engineering: A Practical Example
   • The Project Gutenberg Open Audiobook Collection - Thousands of free and open audiobooks powered by Project Gutenberg, Microsoft, and MIT
   • Hybrid Search Explained
   • We’ve built hybrid search for Postgres/pgvector (thanks to @thesourabhd and @disiok for leading) - this is exciting! 🔥
   • Are self-driving cars already safer than human drivers?
   • GPT in 60 Lines of NumPy
   • GN⁺: 20개의 질문으로 60개의 LLM에게 묻다 (benchmarks.llmonitor.com)
   • DeepMIR - Teaching material for the course (CommE5070) "Deep Learning for Music Analysis and Generation" I taught at National Taiwan University (2023 Fall).
   • 속도와 파이썬, 두 마리 토끼 잡기: 딥러닝 시 빠른 파이썬 코드 실행을 위한 CUDA 그래프 사용법 (discuss.pytorch.kr)
   • A list explaining key ML concepts and papers
   • 흉부 엑스레이 추적 검사, 인공지능이 판독 효율성 높였다...진단 정확도 80%
   • 챗GPT 연계 이후 돈 잘 버는 AI 서비스 3곳
   • Researchers use machine learning to predict drug approval chances before clinical trials
   • GN⁺: TSMC, AI 칩 부족이 18개월 더 지속될 것이라 경고 (theregister.com)
   • GPT Can Solve Mathematical Problems Without a Calculator
   • 4 Skills the Next Generation of Data Scientists Needs to Develop
   • GN⁺: EmojiGen - AI를 활용한 Emoji 생성기 오픈소스 (emoji.fly.dev)
   • Introduction to Anomaly Detection in Python with PyCaret
   • Rivet, the IDE for creating complex AI agents and prompt chaining, and embedding it in your application.
   • Scaling the Instagram Explore recommendations system
2. 하드웨어
   • 아이폰 15, 80%에서 충전 제한해 배터리 더 오래 쓴다
   • “무엇이 같고 무엇이 달라졌나” 애플 워치 시리즈 9 vs. 시리즈 8 비교
   • 스마트폰이 PC를 대체할까? 힌트는 ‘더블 탭’ 제스처
   • How to Build a Multi-GPU System for Deep Learning in 2023
   • GN⁺: Pineapple ONE: 집에서 만들 수 있는 오픈소스 32비트 RISC-V CPU (pineapple-one.github.io)
   • LLMs for Generating Structured Data
   • "디지털 트윈 시장, 2028년까지 매년 61.3%씩 성장··· 제조 분야가 견인"
   • 아이폰 15 프로에 탑재된 ‘A17 프로’, 긱벤치 결과 떴다··· 실제 성능은?
   • “게이밍급 충전과 I/O 성능” 내년에 썬더볼트 5 나온다
   • How RISC-V can usurp Arm as the Switzerland of computer chips
   • 애플 원더러스트에서 놓쳤을 수 있는 사소한 변화 8가지
   • “프로그래밍 가능한 멀티코어 CPU” 데이터 처리 장치(DPU)가 부상한다
   • “더블 탭부터 온디바이스 시리까지” 2023 애플워치 가이드
   • 퀄컴 "2026년까지 아이폰용 5G 모델 공급 예정"…애플 자체 모뎀 난항인가
   • 사테치 듀얼 독 스탠드 리뷰 | ‘USB 허브+SSD 케이스’ 영악한 도킹 스테이션
3. 읽을거리
   • X adds "Formerly Twitter" to App Store listing as app plunges in the charts
   • 치킨 튀기는 로봇에 뛰어든 '프랜차이즈 백전노장' CBDO가 되다
   • 95% of NFTs are Worthless: Report
   • “검색 엔진 기본 탑재해 경쟁 저해”… 美 구글 반독점 소송 본격화
   • '수신료 70원으로 이런 라인업?' EBS 위대한 수업, 섭외의 비법은
   • 한국민속대백과사전(PDF)
   • “연금만으론 살기 팍팍”... 10년 후 늙은 대한민국에 닥칠 일
   • [전현우X정희원 칼럼] 왜 이렇게 지옥 같을 수밖에 없는가
   • Some rough impressions of Worldcoin
   • PayPal stablecoin - Designed for payments. 1 USD : 1 PYUSD on PayPal
   • TON - A decentralized and open internet, created by the community using a technology designed by Telegram.
   • [문지혁의 소설 쓰고 앉아 있네] 퇴고라는 선택
   • 美 최대 규모의 반독점 소송 직면한 구글··· 검색 사업 방어에 총력전
   • 미국 독서 커뮤니티에서 투표한 Top100 Book
   • 페이팔 스테이블코인 PYUSD의 거래구조 및 시사점

EOB

[독서광] 자바 알고리즘 인터뷰 with 코틀린

이번 주는 자바 알고리즘 인터뷰 with 코틀린를 소개하겠다.

방송 스크립트는 전체 공개되어 있으며, 슬라이드셰어에서 보거나 다운로드 받을 수도 있다.

하이라이트를 요약 정리하면 다음과 같다:

• 00:00 도입
• 00:53 한 페이지 요약
• 05:35 이 책의 목차
• 06:23 무엇이 이 책을 흥미롭게 만드는가?
• 11:09 책 vs 책
• 12:52 대상 독자
• 13:13 결론과 마무리

EOB

[독서광] 리그 오브 레전드 플레이어 중심주의

이번 주는 리그 오브 레전드 플레이어 중심주의를 소개하겠다.

방송 스크립트는 전체 공개되어 있으며, 슬라이드셰어에서 보거나 다운로드 받을 수도 있다.

하이라이트를 요약 정리하면 다음과 같다:

• 00:00 도입
• 00:48 한 페이지 요약
• 02:41 이 책의 목차
• 03:08 무엇이 이 책을 흥미롭게 만드는가?
• 07:02 대상 독자
• 07:17 결론과 마무리

EOB

[일상다반사] 유튜브 구독자 3천명 돌파 기념 애독자 이벤트

2022년 2월에 유튜브 2,000명 돌파 소식을 전하고 시간이 조금 흘렀는데, 다시 3,000명 돌파 소식을 전하게 되어 무척 기쁘다. 3천명을 기념해서 이벤트를 세 가지 준비했으니 많은 성원을 부탁드리겠다.

1. 총 일곱 분께 책만 출판사에서 출간한 IT 기술서: 여기에서 좋아요와 댓글로 응모
2. 총 일곱 분께 한빛N에 공개한 <개발 생산성 향상을 위한 체크리스트 12가지> 무료 수강권: 여기에서 좋아요와 댓글로 응모
3. 아직 수강하지 않으신 모든 분들께 유데미 <개발자영어> 12,000원 최저가 쿠폰

방송 스크립트는 전체 공개되어 있으며, 슬라이드셰어에서 보거나 다운로드 받을 수도 있다.

EOB

[B급 프로그래머] 9월 3주 소식(개발/설계/경력관리/보안/클라우드/데이터베이스 관련 소식 정리)

(오늘의 짤방: Every answer on the arch Linux forum via @iammemeloper)

개발 관련 소식

1. 팁과 유틸리티
   • “진실 혹은 거짓” 14가지 흔한 IT 상식 타파하기
   • “클릭 몇 번으로 윈도우 문제 해결” 알짜배기 툴 50선
   • 윈도우에서도 윈도우 아닌 곳에서도 ‘윈도우 데스크톱 앱’이 미래다
   • 윈도우 스크린샷을 원드라이브에 자동 저장하는 방법
   • 유데미 한글 자막
   • Youtube-to-Webpage - 유튜브를 웹페이지로 만들기 (github.com/obra)
   • 윈도우키로 활용할 수 있는 단축키 모음
   • 구글, 크롬 출시 15주년 맞이 UI 및 기능 개선
   • "화면 말고 프레임 캡처" 유튜브, 깔끔한 스크린샷 기능 추가
   • 30년 역사 ‘워드패드’ 지원 중단·· 윈도우 12에서도 빠진다
   • Deprecated features for Windows client
   • Microsoft is killing WordPad in Windows after 28 years
   • Telegram get remote IP
2. 프로그래밍
   • Unity에서 Unreal 엔진으로 전환하기로 결정하셨나요? (impromptugames.com)
   • 게이머와 게임 개발사 모두 ‘유니티 질타’에 연대하는 사연
   • Unity는 죽었다 (gamedeveloper.com)
   • MARP : Markdown 으로 프레젠테이션(ppt) 만들기
   • 유니티 요금 부과 사태, 고도는 기다렸다
   • ruffle is a Flash Player emulator built in the Rust programming language.
   • Web Platform Baseline brings clarity to information about browser support for web platform features.
   • Astro builds fast content sites, powerful web applications, dynamic server APIs, and everything in-between.
   • trafilatura - A Python package & command-line tool to gather text on the Web
   • deno_python - This module provides a seamless integration between deno and python by integrating with the Python/C API.
   • Rust fact vs. fiction: 5 Insights from Google's Rust journey in 2022
   • Google Busts, Confirms Common Myths about Rust Programming
   • The Inner Workings of Safepoints
   • Thread-Safe Counter in Java: A Comprehensive Guide
   • How To Approach Dependency Management in Java
   • Upgrading From Java 17 To 21: All You Need To Know
   • Better Java Compiler Error Messages
   • Pitest is a library that helps us do mutation testing.
   • JDK 21 G1/Parallel/Serial GC changes
   • Introduction: Q-descriptors and v-bytecodes
   • OpenJDK's JEP 451: Balancing Serviceability and Integrity in JVM
   • Java: JEP Draft: "Computed Constants"
   • GN⁺: 리눅스 커널 인터랙티브 맵 (makelinux.github.io)
   • GNAT Pro for Rust: 임베디드를 위한 Rust 개발환경 (adacore.com)
   • 러스트 개발자 지원 강화··· 젯브레인, ‘러스트로버 IDE’ 프리뷰 버전 출시
   • Object-oriented programming in under 5 minutes:
   • 뱅크샐러드 Go 코딩 컨벤션
   • 🐍📰 Bypassing the GIL for Parallel Processing in Python
   • Welcome to the Microsoft Writing Style Guide, your guide to writing style and terminology for all communication—whether an app, a website, or a white paper.
   • 빠른 대용량 편집기 ‘엠에디터’를 아시나요? ··· 40년 경력의 개발자 에무라 유타카 대표
   • 노드JS 대안 노린다··· 번, 프로덕션 환경 위한 1.0 버전 출시
   • Hrequests (human requests) is a simple, configurable, feature-rich, replacement for the Python requests library.
   • krypton: Data Encryption at Rest and IAM for Python
   • IEEE TPL(Top 프로그래밍 언어) 2023 (spectrum.ieee.org)
   • Playing with genetic algorithms in python
   • Introducing flake8-logging
   • What is wrong with TOML?
   • Python: My Favorite Python Tricks for LeetCode Questions
   • Filters in Django – filter(A, B) vs filter(A).filter(B)
   • The contents of PyPI, in numbers
   • The Python dictionary dispatch pattern
   • Switching to Hatch
   • Dara is a dynamic application framework designed for creating interactive web apps with ease, all in pure Python.
   • 🐍📰 Profiling in Python: How to Find Performance Bottlenecks
   • Nushell - "A new type shell"
   • Unity plan pricing and packaging updates
   • Create Your Own Diff-Tool Using Python - How to create your own simple diff-tool using nothing but Python
   • Tools & Libraries to Make Your Own C++ Game Engine
   • μDSV - 더 작고 빠른 CSV 파서 (github.com/leeoniya)
   • Apache Pekko is an open-source framework for building applications that are concurrent, distributed, resilient and elastic.
   • 🐍 Your Guide to the Python Print Function
   • (번역) 유쾌하게 이상한 자바스크립트 생태계
   • Unleash the Power of Open Source Java Profilers: Comparing VisualVM, JMC, and async-profiler
   • Dive: A Simple App for Viewing the Contents of a Docker Image
   • Copying Container Images Between Container Registries
   • shell에서 interactive, non-interactive, login, non-login 차이는?
   • Briefcase is a tool for converting a Python project into a standalone native application.
   • An Intro to Protocol Buffers with Python
   • Bun is a fast, all-in-one toolkit for running, building, testing, and debugging JavaScript and TypeScript, from a single file to a full-stack application.
   • “Wasm에 대한 의심 아직 있다” 웹어셈블리 현황 2023 보고서
   • Abstracting over Computation
   • Useful & Unknown Java Features
   • “자바 18 릴리스의 꽃” 심플 웹 서버 시작하기
   • 아줄, 프라임 새 기능 발표… “자바 사용 현황 학습해 워밍업 시간 최적화”
   • Visualizing the CPython Release Process
   • A branchless DOOM - This directory provides a branchless, mov-only version of the classic DOOM video game.
   • Graphweaver - 여러 데이터소스를 하나의 GraphQL API로 묶기 (github.com/exogee-technology)
   • 모노레포 이렇게 좋은데 왜 안써요?
   • Awesome Python - A curated list of awesome Python frameworks, libraries, software and resources.
   • 누구나 할 수 있는 10배 더 빠른 배치 만들기
   • Curl 마스터하기: 인터랙티브 텍스트 가이드 (antonz.org)
   • Writing a C compiler in 500 lines of Python
   • But do you actually know what these terms mean? - CGI - FastCGI - php-fpm - How do they connect to nginx?
   • THE CURL-WGET VENN DIAGRAM
   • Performance Through Memory Layout
   • 리치 히키와의 인터뷰 (마이클 포거스)
   • PyFlo - The beginners guide to becoming a Python programmer
   • Google maps scraper
   • Writing a scientific article: A step-by-step guide for beginners
   • Hypothesis is a Python library for creating unit tests which are simpler to write and more powerful when run, finding edge cases in your code you wouldn’t have thought to look for.
   • Read the lost thesis of Dennis Ritchie, creator of C programming language & co-creator of Unix
   • Introduction To Python's Functools Module - Introducing the functools functions using real world examples
   • CS-E4510 Distributed Algorithms
   • Hidden Features of Python
   • 프론트엔드, 백엔드 개발자 간 소통 돕는 Swagger
3. DevOps
   • AWS 서버 배포 중 어이없는 실수 - Health Check 관련
   • K3s Explained: What is it and How Is It Different From Stock Kubernetes (K8s)?
   • Glances - An eye on your system
   • GN⁺: NGINX Unit - 경량/다목적 유니버설 웹 앱 서버 오픈소스 (github.com/nginx)
   • How DoorDash Migrated from StatsD to Prometheus
   • getlocalcert - 사설 네트웍을 위한 쓰기 편한 HTTPS (getlocalcert.net)
   • 도요타 일본 내 공장 14곳 하루 동안 가동 중단 "원인은 디스크 공간 부족"
   • Infrastructure as Code: Past, Present, Future
   • Awesome Site Reliability Engineering Awesome
   • Private S3구성과 NGINX를 이용한 웹사이트 구성
   • Python Dictionaries Quiz
   • Introduction to Container Network Interface (CNI)
   • Kubernetes The Hard Way On VirtualBox
4. 설계
   • 푸시 클릭율 6배를 만든 고객집중
   • Micro Frontends: The Evolution of Frontend Architecture
   • Microservices Retrospective – What We Learned (and Didn’t Learn) from Netflix
   • Your system need not be highly-available 95% of the time.
   • 프로모션을 대비한 대기열 시스템 구성하기 (Redis, WebSocket, Spring)
   • The Art of Writing Amazing REST APIs
   • Scaling the Instagram Explore recommendations system
   • 쉽게 풀이한 단순함
   • "Simple Made Easy" - Rich Hickey (2011)
   • Design Patterns used in Spring Framework
5. 경력 관리와 개발문화
   • “아직 끝나지 않은 실직의 두려움” 구글, 채용 담당 직원 수백 명 해고
   • SI 회사 홈페이지에서 SI가 사라지는 이유
   • Platform Engineering Is a Bandwagon Worth Jumping on
   • [문지혁의 소설 쓰고 앉아 있네] 퇴고라는 선택
   • AWS zero to hero repo for devops engineers to learn AWS in 30 Days.
   • "스타트업, 경력직 채용 말고 '구독'하세요"
   • R&D 칼바람 어디서 불어오나?
   • 같이 일하고 싶지 않은 개발자 특
   • Stop Studying Programming
   • System Design Interview Cheat Sheet
   • 너디너리 컨퍼런스 후기
   • Mastering the System Design Interview: A Complete Guide
   • Measuring developer productivity? A response to McKinsey
   • How to find time to learn after work
   • [2024 대학선택] 전국 대학 컴퓨터공학과 교과전형 순위
   • [단독]'수익성 악화' 야놀자, 클라우드 구조조정
   • C++을 만든 Bjarne Stroustrup의 인생 조언 (youtube.com)
   • 청년백수 126만 시대...미취업자 4명 중 1명은 집에서 쉰다
   • Battery 벤쳐스의 Gen Z 보고서 (16p PDF) (slideshare.net)
   • 미국 학사학위 수여자 수 변화 (2010년~2011년): 컴퓨터공학 +144%
   • "웹 프로젝트 체크리스트"
   • Scaling Engineering Teams Without Traditional Managers
   • ✱✱ 회사 신입을 위한 현실적인 조언
   • How to advance as Software Engineer. How to be a more Senior Software Engineer
   • A game plan for tech talent

보안/클라우드/데이터베이스 관련 소식

1. 보안
   • “모든 브라우저서 심각한 취약점 발견… 업데이트 필요”
   • All about OSC&R, a Software Supply Chain Security Framework
   • Bitwarden releases free and open-source E2EE Secrets Manager
   • How fame-seeking teenagers hacked some of the world’s biggest targets
   • Microsoft Signing Key Stolen by Chinese
   • Software Memory Safety by NSA
   • AMD and Intel CPU security bugs bring Linux patches
   • How to Automatically Detect Multiple Cybersecurity Threats from an Input Text String in Java
   • GN⁺: 충분히 발달한 Uninstaller는 Malware와 구별할 수 없다 (devblogs.microsoft.com)
   • Google gets its way, bakes a user-tracking ad platform directly into Chrome
   • 퍼셉션포인트, QR코드 피싱 공격 '퀴싱' 방지 솔루션 출시
   • NSO 그룹이 만든 아이폰용 제로 클릭 제로 데이 취약점이 발견되었습니다. (citizenlab.ca)
   • GN⁺: Google Chrome, 브라우저 기록 기반 광고 타겟팅 추진 (theregister.com)
   • “무심코 스캔하면 큰코다친다” QR 코드 악용한 사이버 공격의 이해
   • 전면 개정 개인정보보호법, 9월 15일 시행...개정사항 꼼꼼히 확인해야
   • Notepad++에서 임의 코드 실행이 가능한 취약점이 여러 개 발견됨 (cybersecuritynews.com)
   • back-me-up - This tool will check for Sensitive Data Leakage with some useful patterns/RegEx.
   • GitHub - TUD-CERT/docleaner: A web service to clean documents from potentially privacy-invasive metadata
   • Welcome to Bitburner, a cyberpunk-themed incremental RPG
   • SQLite patches use-after-free bug that left apps open to code execution, denial-of-service exploits
2. 클라우드
   • 오라클-MS, 클라우드 주도권 위해 맞손…MS 애저에서 오라클 DB 실행 협력
   • 𝗔 𝗕𝗿𝗶𝗲𝗳 𝗛𝗶𝘀𝘁𝗼𝗿𝘆 𝗼𝗳 𝗠𝗶𝗰𝗿𝗼𝘀𝗼𝗳𝘁 𝗔𝘇𝘂𝗿𝗲
   • 클라우드 퍼스트는 옛말, 이제는 ‘클라우드 스마트’다
   • Vercel은 어떻게 Amazon EventBridge 스케줄러를 사용하여 두 달 만에 Cron Jobs를 출시했을까?
   • MS "호주 데이터센터 중단 사고, 인력 부족과 자동화 실패가 원인"
3. 데이터베이스
   • PostgreSQL 15 살펴보기
   • GN⁺: PostgreSQL 16 (postgresql.org)
   • Crunchy Data - Fully Managed Cloud Postgres
   • 15-721 Advanced Database Systems (Spring 2023)
   • "How Query Engines Work"
   • 비트나인, 포스트그레SQL DB에 탑재된 그래프 DB 제품 출시
   • DynamoDB의 시스템 디자인과 분산 트랜잭션 구현 원리
   • MySQL Changes Versioning Model, Adds Innovation and LTS Releases

EOB

[B급 프로그래머] 9월 2주 소식(빅데이터/인공지능, 하드웨어, 읽을거리 부문)

(오늘의 짤방: もしもAppleがユーザーの意見を商品に取り入れてたらどうなってたかw。(만약 애플이 사용자들의 의견을 제품에 반영했다면 어땠을지 궁금하다.) @tmiyatake1)

1. 빅데이터/인공지능
   • Announcing search.vespa.ai Today, we announce the general availability of search.vespa.ai - a new search experience for all (almost) Vespa-related content - powered by Vespa, LangChain, and OpenAI’s chatGPT model.
   • NVIDIA TensorRT-LLM Supercharges Large Language Model Inference on NVIDIA H100 GPUs
   • Here's the most effective GPT-4 prompt I've developed for writing tasks.
   • Baseline Defenses for Adversarial Attacks Against Aligned Language Models
   • Elasticsearch Vector Store
   • We just released Transformers.js v2.6.0! New features:
   • 중국은 지금 LLM 전쟁 중··· 텐센트, 기업용 AI 모델 ‘훈위안’ 출시
   • nanoT5 (Encoder-Decoder / Pre-training + Fine-Tuning)
   • Large language models, explained with a minimum of math and jargon
   • NAVER GLACE AI 개발팀은 어떤 일을 해?
   • Why Large Language Models Hallucinate and How to Reduce it
   • OpaquePrompts serves as a privacy layer around your LLM of choice.
   • Open Interpreter lets LLMs run code on your computer to complete tasks.
   • “생성형 AI로 합성 데이터 생성”··· AWS, 비접촉 결제 시스템 개발 사례 공유
   • Hugging Face, Training Cluster As a Service 공개 (huggingface.co)
   • Hierarchical Agents with LlamaIndex
   • OnPrem.LLM is a simple Python package that makes it easier to run large language models (LLMs) on non-public or sensitive data and on machines with no internet connectivity (e.g., behind corporate firewalls).
   • Ever wondered how LLMs generate text❓🤔
   • 생성 AI 모델의 임베딩 벡터를 이용한 서버리스 추천 검색 구현하기 - 이상현 CEO, Mirror Inc. :: AWS Summit Seoul 2023
   • Removing Demographic Data Can Make AI Discrimination Worse
   • LlamaIndex Update — 09/03/2023
   • 3 free MLOps courses you should know about:
   • The ggml roadmap is progressing as expected with a lot of infrastructural development already completed
   • 핵심 미래 분석 기술! 시계열 분석을 활용한 수요예측과 재고관리 최적화 사례 – 김형일 AWS 솔루션즈 아키텍트, 이환기 신세계아이앤씨 AI팀장:: AWS Cloud Week
   • Falcon 180B 모델 공개 (huggingface.co)
   • SAM.cpp - Meta의 Segment Anything Model을 순수 C/C++ 로 구현 (github.com/YavorGIvanov)
   • Single Sample Training Experiment(Llama 2 7B + Platypus, using LoRA)
   • AI Grant — accelerator for AI startups
   • Welcome to Verba: The Golden RAGtriever, an open-source initiative designed to offer a streamlined, user-friendly interface for Retrieval-Augmented Generation (RAG) applications.
   • Fine-Tuning LLMs: LoRA or Full-Parameter? An in-depth Analysis with Llama 2
   • AI를 활용한 교육 (openai.com)
   • SLiMe: Segment Like Me
   • 놀이동산도 있네··· 구글, 클라우드 AI 기업 실사례 7가지 제시
   • '오픈소스' AI에 대해 다시 생각해야 할 때
   • ["쉿! 유출 안돼" 삼성, 반도체 개발에 '네이버 AI' 쓴다
   • How to Use Streamlit and Python to Build a Data Science App
   • DiffBIR: Towards Blind Image Restoration with Generative Diffusion Prior
   • Fine-Tuning a Linear Adapter for Any Embedding Model
   • ControlMat: A Controlled Generative Approach to Material Capture
   • Syncing data sources to vector stores
   • TSMixer: An all-MLP architecture for time series forecasting
   • Code Llama: Open Foundation Models for Code
   • KOTE (Korean Online That-gul Emotions) 데이터셋을, Haidt의 도덕감정(Moral Emotion) 분류로 편집한 멀티라벨(Multi-Labels) 데이터셋입니다. 해당 데이터셋을 KcELECTRA 훈련한 모델도 함께 공개합니다.
   • Falcon-180B Demo
   • Falcon 180B is a super-powerful language model with 180 billion parameters, trained on 3.5 trillion tokens.
   • A complete guide to fine-tuning Code Llama
   • AI 이미지 검색 엔진 만들기 - 벡터 데이터베이스 설명과 Chroma DB 튜토리얼
   • 나를 가장 잘 이해하는 개인화 어시스턴트, LINER Copilot
   • Trying to fine-tune an open-source LLM for your own data?
   • 핑크퐁의 통합 데이터 환경 구축기 (feat. Snowflake)
   • Shaq - CLI용 Shazam(음악 이름 찾기) (blog.yossarian.net)
   • Copilots are becoming the new paradigm how to build successful LLM-based applications
   • ‘AI 주권전쟁’ 승패 좌우할 LLM 경쟁력 ‘빨간불’
   • 네이버 클로바 케어콜, 클라우드 서비스 시작
   • 읽씹할 결심 - 생성 모델에게 답변 시간 가르치기
   • 대규모 언어모델 너도 나도 업무에 사용해보자: To Beginner
   • A new way to use computers - Open Interpreter lets LLMs run code on your computer to complete tasks.
   • LangFuse - LLM앱을 위한 오픈소스 Observability & Analytics 솔루션 (github.com/langfuse)
   • 구글 제미니가 오픈API GPT-4를 압도할까?
   • LLM + Spreadsheets
   • Google made a watermark for AI images that you can’t edit out
   • LLM now provides tools for working with embeddings
   • ♻️ Self-querying @zilliz_universe + DashVector
   • Our new paper defines situational awareness for LLMs & shows that “out-of-context” reasoning improves with model size.
   • CS480/680: INTRODUCTION TO MACHINE LEARNING, Spring 2023, University of Waterloo
   • Whisper Web - ML-powered speech recognition directly in your browser
   • Large language models in medicine: the potentials and pitfalls
   • TokenMonster is an ungreedy subword tokenizer and vocabulary generator, enabling language models to run faster, cheaper, smarter and generate longer streams of text.
   • Publicly Shareable Clinical Large Language Model Built on Synthetic Clinical Notes
   • How to Use Large Language Models (LLMs) on Private Data: A Data Strategy Guide
   • Large Content And Behavior Models To Understand, Simulate, And Optimize Content And Behavior
   • GPT-3.5 Turbo 파인튜닝(colab)
   • The Belebele Benchmark: a Parallel Reading Comprehension Dataset in 122 Language Variants
   • 생성형 AI를 이용한 마케팅/SEO/PR용 자동화 스크립트 모음 (github.com/ktynski)
   • Build generative AI applications with Google
   • How to Create a Beautiful Polar Histogram With Python and Matplotlib
   • Just implement the on_message function in main.py and Textbase will take care of the rest :) Since it is just Python you can use whatever models, libraries, vector databases and APIs you want.
   • Meta, 컴퓨터 비전 모델의 편향성을 조사하기 위한 FACET 데이터셋 공개 (ai.meta.com)
   • LangChain Library Adds Full Support for Neo4j Vector Index
   • DSPy: Programming—not prompting—Foundation Models
   • We write your reusable computer vision tools. Whether you need to load your dataset from your hard drive, draw detections on an image or video, or count how many detections are in a zone.
   • Awesome Machine Learning for Cyber Security
   • They propose applying the Segment Anything Model (SAM) to medical 2D images.
   • A minimal study plan for Machine Learning 📈
   • pdf2embeddings - NLP tool for scraping text from a corpus of PDF files, embedding the sentences in the text and finding semantically similar sentences to a given search query
   • Building a PDF Knowledge Bot With Open-Source LLMs - A Step-by-Step Guide
   • 한국은 AI 강국이 될 수 있을까?
   • Start Machine Learning in 2023 - Become an expert for free!
   • Transformers as Support Vector Machines
   • Meta가 2023년 8월 31일 영상 처리 모델 "DINOv2"의 라이센스를 CC BY-NC 4.0에서 Apache License 2.0으로 변경
   • Inside the AI Porn Marketplace Where Everything and Everyone Is for Sale
   • How do domain-specific chatbots work? An Overview of Retrieval Augmented Generation (RAG)
   • Interactive Tools for machine learning, deep learning, and math
   • PyTorch Memory Tuning
   • Time-series machine learning at scale
   • CodeGeeX: A Multilingual Code Generation Model
   • 의료계, AI 기반 진단과 치료 시행 기대
   • Complete Numpy Library(YouTube)
   • 구글 "언어 이해 시작한 AI, 헬스케어에도 혁신 가져올 것"
   • Data Parallel Training with KerasNLP
   • Build Your Own PandasAI with LlamaIndex
   • All 161 things we announced at Google Cloud Next ‘23 – a recap
   • GPT is becoming a Turing machine: Here are some ways to program it
   • Comic-Factory - 디퓨전 모델을 이용하여 만화를 생성해주는 도구 (huggingface.co)
   • AI: RAG vs Fine-tuning — Which Is the Best Tool to Boost Your LLM Application?
   • 생성형 AI를 위해 지속적 테스트를 업그레이드하는 3가지 방법
   • “아직 완성된 상태 아니다” 기업이 ‘생성형 AI’ 정책을 만들어야 하는 이유
   • [대전환 AI시대⑬] "누구나 경험하는 금융 AI···수요 기반 전략은 필수"
   • “사용자 대신해 회의 참석한다” 구글, 워크스페이스용 '듀엣 AI' 출시
   • "AI 쓰는 직원 늘어나는데 관리 지침은 전무" 아사나 직장 내 AI 활용 설문조사
   • 오픈AI, 기업용 챗GTP 출시··· “사용 제한 없고 속도 2배 더 빠르다”
   • 구글, 듀엣 AI 공식 출시··· ‘기업용 워크스페이스에 도입, 월 30달러’
   • 구글, 기업의 LLM 역량 강화 지원하는 버텍스AI 새 기능 공개
   • 엔비디아-구글 클라우드, 파트너십 확대… “새로운 AI 인프라와 소프트웨어 출시”
   • AI가 직면한 중대한 문제점 “대중이 신뢰하지 않는다”
   • PromptTools - Welcome to prompttools created by Hegel AI! This repo offers a set of open-source, self-hostable tools for experimenting with, testing, and evaluating LLMs, vector databases, and prompts.
   • Quantitative Evaluation of LLM Responses with RAG-based Question-answering Chatbots
   • Embrace the randomness
   • Google - Fast or Slow? Predict AI Model Runtime Predict how fast an AI model runs
   • AI and Data Scientist Roadmap
   • Artificial Intelligence - Creating The Assembly Line For Knowledge Workers
   • When Should You Stop Searching? - An introduction to optimal stopping and how it relates to data science
   • This notebook walks through using Marvin to extract and augment metadata from text. Marvin uses the LLM to identify and extract metadata.
   • theres been a lot of excitement around fine-tuning recently, both in open source and with OpenAI's API - Here’s a list of some of our favorite resources, use-cases, and experiments on the topic over the last ~week
   • Automatic Generation of Visualizations and Infographics with LLMs
   • We’re All Programmers Now With generative AI, anyone can code. Here’s how to help your enterprise embrace this change.
   • Awesome Llama2 Resources
   • Don’t re-record, Regenerate. How? AI-powered generative audio technology instantly recreates any voice and completely matches its recording environment, making your edits sound seamless and natural.
   • 삼성, AI기반의 개인화된 음식 & 레시피 서비스 '삼성 푸드' 공개 (news.samsung.com)
   • Optimize open LLMs using GPTQ and Hugging Face Optimum
   • One Project To Learn MLOps
   • DeepSpeed-Chat: Llama/Llama-2 system support, efficiency boost, and training stability improvements
   • Microsoft LIDA - LLM을 이용한 시각화/인포그래픽 자동 생성 (microsoft.github.io)
   • There's an amazingly convenient way to install the *full* NVIDIA CUDA dev stack on Linux.
   • Why LLMs kickass at Code Generation and will they Replace Programmers?
   • Accelerating PyTorch with CUDA Graphs
   • Vector Search with OpenAI Embeddings: Lucene Is All You Need
   • DeepSpeed Ulysses: 긴 시퀀스 트랜스포머 모델 훈련을 위한 시스템 최적화 (github.com/microsoft)
   • Awesome-LLM - 🔥 Large Language Models(LLM) have taken the NLP community AI community the Whole World by storm. Here is a curated list of papers about large language models, especially relating to ChatGPT.
   • 오픈AI와 자체구축 LLM을 비교하다
   • SKT, 기업용 LLM 시장 나선다..."에이닷·앤트로픽·코난 3개 모델 조합"
   • 6 ways machine learning can boost your marketing processes
   • 유진투자증권, 두물머리와 챗GPT 활용한 'AI 애널리스트 솔루션' 선봬
   • GN⁺: 메타 AI, 비디오 상의 모든 점(픽셀)을 추적하는 모델인 CoTracker를 발표 (co-tracker.github.io)
   • 모자이크ML, 오라클 클라우드 인프라스트럭처 활용해 생성형 AI 모델 학습 속도 개선한다
   • Considerations for Deploying Machine Learning Models in Production
   • DeepEval provides a Pythonic way to run offline evaluations on your LLM pipelines so you can launch comfortably into production.
   • Building Performant RAG Applications for Production
   • LLM과 함께 뜨는 중··· 개발자를 위한 '랭체인' 안내서
   • Code Llama is a family of large language models for code based on Llama 2 providing state-of-the-art performance among open models, infilling capabilities, support for large input contexts, and zero-shot instruction following ability for programming tasks.
   • VisionScript is an abstract programming language for doing common computer vision tasks, fast.
   • Awesome Systematic Trading - We are collecting a list of resources papers, softwares, books, articles for finding, developing, and running systematic trading (quantitative trading) strategies.
   • Machine Learning Recipes
   • LlamaIndex: Automatic Knowledge Transfer (KT) Generation for Code Bases
   • LLMs in real-world projects
   • Shell-AI: Your Intelligent Command-Line Companion
   • Reinventing the LSTM: Long short-term memory from scratch
   • vectorizer.ai - Trace Pixels To Vectors in Full Color
   • MedAlign: A Clinician-Generated Dataset for Instruction Following with Electronic Medical Records
   • ecoding ROC Analysis
   • Web LLM - Llama2 7B/13B 지원 시작 (webllm.mlc.ai)
   • The state of AI in 2023: Generative AI’s breakout year
   • Containerized PDF Summarizer with FastAPI and Hamilton
   • MS-Vid2Vid-XL aims to improve the spatiotemporal continuity and resolution of video generation.
   • A key piece of advice I give to devs on LLM + RAG evals is to evaluate piece-by-piece: e.g. evaluate the retrieval step on its own.
   • Llama2가 요약에 있어 GPT-4만큼 정확하며 30배 더 저렴 (anyscale.com)
   • Xata x LangChain: new vector store and memory store integrations
   • DeepEval is a cool library for testing your LLM and RAG apps
   • Nougat: Neural Optical Understanding for Academic Documents
   • CppCon 2016: “Bringing Clang and C++ to GPUs: An Open-Source, CUDA-Compatible GPU C++ Compiler"
   • Scikit-LLM: Sklearn Meets Large Language Models
   • WizardCoder: Empowering Code Large Language Models with Evol-Instruct
   • Beating GPT-4 on HumanEval with a Fine-Tuned CodeLlama-34B
   • Welcome to Google Cloud Next ’23
   • 4 Charts That Show Why AI Progress Is Unlikely to Slow Down
   • Newspaper3k Guide: Scrape Articles Using AI
   • How AI Is Changing the Way We Code
   • Looking to easily run Code Llama / Llama-2 on your local machine? 🚀
   • 코딩에 특화된 LLM··· 메타, 코드 라마(Code LIama) 공개
   • "챗GPT 언급한 채용 공고, 21배 증가"··· 기업들의 동향은?
   • ‘규제 불확실성, 데이터 거버넌스...’ 생성형 AI의 현 과제는? 해결 전략은?
   • This repository is a curated collection of links to various courses and resources about Artificial Intelligence (AI). Whether you're a beginner or an experienced learner, there's something here for everyone!
   • Data Observability for Analytics and ML teams
   • In this video you will learn to create a Langchain App to chat with multiple PDF files using the ChatGPT API and Huggingface Language Models.
   • Onboard - GitHub Repo 설명해주는 AI (getonboard.dev)
   • Calculate and visualize derivatives in Python
   • ChatGPT 엔터프라이즈를 소개합니다. (openai.com)
   • Introducing ChatGPT Enterprise
   • Parameter-Efficient Fine Tuning (PEFT) methods freeze the pretrained model parameters during fine-tuning and add a small number of trainable parameters (the adapters) on top of it.
   • How to deploy ML models painlessly
   • LlamaIndex Finetuning Overview
   • Estimating vRAM - Determining if you have enough GPU memory.
   • 야심차게 출발했지만 … 네이버AI, 온종일 대기중
   • Tensorflow Object Detection in 5 Hours with Python | Full Course with 3 Projects
   • Master Artificial Intelligence in 2023 with these free courses:
   • LLM 기반의 시스템 & 제품 구축 패턴들 (eugeneyan.com)
   • Graph LLM, Demo Outline
   • Google Gemini Eats The World – Gemini Smashes GPT-4 By 5X, The GPU-Poors
   • Demo: CodeLlama-13b with MLC LLM
   • 👋 Welcome to MLC LLM¶
   • Embedding Playground
   • 네이버 '클로바X' 내놓자 삼성도 AI 출사표
   • 10월 뉴로클라우드 출시…네이버클라우드, 기업 AI 자신
   • TIL CUDA_VISIBLE_DEVICES=0 won't always give you the same GPU, unless you also set CUDA_DEVICE_ORDER=PCI_BUS_ID
   • **timeline** based data-structure to do RAG. Really useful for querying over personal events
   • The unstructured library provides open-source components for ingesting and pre-processing images and text documents, such as PDFs, HTML, Word docs, and many more. The use cases of unstructured revolve around streamlining and optimizing the data processing workflow for LLMs.
   • 실시간 채팅 번역에 최적화된 프롬프트 만들기
   • Generative AI and intellectual property
   • Efficient semantic search over unstructured text in Neo4j
   • This might be the first time ChatGPT (+@jxnlco) helped us come up with a better retrieval algorithm for RAG:
   • 한국판 챗GPT 네이버 클로바X 사용 후기(성능 테스트, 스킬 기능 소개)
   • ChatGPT를 임상현장에서 Co-pilot처럼 사용할 수 있는지 연구 결과 소개
   • 금융도메인에서의 생성형 언어모델의 역할과 미래
   • 네이버 챗봇 '클로바X' 써보니…느리지만 맛집·길찾기·면접 '제법 똑똑하네'
   • Reverse Engineering Image Prompts with PromptPerfect
   • REVEALED: THE AUTHORS WHOSE PIRATED BOOKS ARE POWERING GENERATIVE AI
   • Leveraging XGBoost for Time-Series Forecasting
2. 하드웨어
   • [하드웨어] MediaTek과 TSMC, 최초의 3nm 모바일 칩셋을 성공적으로 개발 [2]
   • What is a vCPU and How to Calculate vCPU Requirements?
   • “콘솔부터 스마트워치, 세탁기까지” IFA 2023에서 주목해야 할 10가지 제품
   • 한 통로에 엘리베이터 2대… 20년 독점 곧 풀린다
   • 오픈 소스를 활용하면 하드웨어도 만들 수 있다 (redeem-tomorrow.com)
   • A branchless DOOM - This directory provides a branchless, mov-only version of the classic DOOM video game.
   • AI 열풍에 HBM 수요 급증…SK하이닉스와 삼성전자, 시장 주도권 놓고 치열한 경쟁
   • “iOS 17 나오면⋯” 에어팟도 더 똑똑해진다
   • “AI로 CPU 전력까지 제어한다” 인텔 ‘메테오’ 전성비 크게 오를까
   • ‘제대로 알고 사자’ 그래픽 카드 구매 시 주의해야 할 7가지
   • 삼성 갤럭시 워치 6 클래식 리뷰ㅣ밤낮으로 착용하고 싶은 스마트워치
   • Google Details TPUv4 and its Crazy Optically Reconfigurable AI Network
   • 현대차, 자율주행에 '바보장치' 고집하는 이유
   • 언제나 전원에 연결해 둔 노트북, 배터리에 해로울까?
3. 읽을거리
   • 한국 자산의 46% 가진 ‘파워 실버’… 경제 주무르는 큰손으로
   • Health Advisory on Social Media Use in Adolescence
   • It's not just you — no one is posting on social media anymore
   • 21세기 동안 GDP 대비 R&D 투자 비율을 가장 높인 국가, 한국
   • Battery 벤쳐스의 Gen Z 보고서 (16p PDF) (slideshare.net)
   • 애플사의 금융업 진출 현황 및 시사점
   • Warren Buffet In a Nutshell
   • 한국 디지털 리터리시 괜찮은가?
   • [항공상식Q&A] 비행기 넌 몇톤이니? 안전운항을 위한 항공사의 무게 관리
   • How to Make Friends in a New City
   • "출퇴근 10분 길어지면 소득 19% 준다"…빈곤 부르는 '낭비통근'[출퇴근지옥⑥]
   • My lecture slides on kNN techniques with vanilla kNN, k-d tree, decision tree, random forest and gradient boosting.
   • 우리나라 주요 제조업 생산 및 공급망 지도(2023) - 한국은행

(보너스: everything is an API call. free your mind. via @_nateraw)

EOB