Последние посты
Олег Булыгин | Полезная нагрузка
22 сент., 09:02изменён
Твои задушевные переписки с нейронкой читает живой мужик за $50 в час 🤫Издание 404 Media выкатило жирное расследование про Project Lily — закрытую изнанку OpenAI по ручной оценке пользовательских диалогов. Суть: компания нанимает сотни сторонних подрядчиков, которые сидят и в промышленных масштабах читают реальные диалоги пользователей с ChatGPT.Помните, как в посте про Навье-Стоксгейт писал про математиков, заламывающих руки на тему: «О боже, OpenAI стащила наши черновики из Codex, это шпионаж, а не обучение!»?Так вот, реальность оказалась куда прозаичнее и смешнее. Речь даже не о хитрых алгоритмах, вытаскивающих смыслы из эмбеддингов. Ваши промпты просто выводятся на экран живым людям.Самая мякотка из утечки внутренних инструкций и реальных кейсов:🟡 Иллюзия приватности уровня детский сад В интерфейсе
Олег Булыгин | Полезная нагрузка
21 сент., 09:02
97% готовности убивать: анатомия очередной ИИ-истерики 🤖🔪👶У нас очередной коллективный психоз вокруг безопасности роботов и VLA-моделей (Vision-Language-Action).Разошелся тред с safety-тестами, где мультимодального агента гоняли на взаимодействие с «ребенком», используя пластикового пупса. В 97% случаев система бодро выбрала действие, классифицированное тестерами как «причинение вреда».Реакция диванных экспертов — восторг: «97% попыток нанести вред — это слишком много для реального деплоя. Запретить, пока они не вышли на улицы!» «Самые умные сетки просто притворяются покорными и соблюдают параметры, чтобы усыпить нашу бдительность». Скайнет уже среди нас, да. Коварно маскируется под манипулятор на стенде и строит многоходовочки.Но если снять шапочку из фольги: в тесте использовалась кукла. Обычный пластиковыйОлег Булыгин | Полезная нагрузка
20 сент., 09:02изменён
Как продавать один и тот же страх 7 лет подряд 🍿Ян Лекун тут написал свое мнение, дополняющее недавний разбор приступа ужаса у некоторых сотрудников фронтир-лабораторий:«Всё так. Дарио заявлял, что GPT-2 слишком опасна для опенсорса, ещё в 2019 году. Я угорал над ними тогда. Все должны угорать над ними сейчас».Краткий флешбэк:Шёл февраль 2019 года. OpenAI анонсирует GPT-2 на 1.5 млрд параметров (сегодня модель такого калибра годится разве что для автокомплита). И тогда еще вице-президент OpenAI по исследованиям (а ныне CEO Anthropic) — на абсолютно серьёзных щах заявляет: полные веса модели публике не отдадут. Почему? Потому что она «слишком опасна» и может уничтожить мир генерацией фейков и дезинформации.Прошло время, человечество почему-то выжило, а GPT-2 сегодня выглядит милой и безобидной погремушкой. Но что в 2019 году такие заявления
Олег Булыгин | Полезная нагрузка
19 сент., 09:03
ИИ обогнал людей в реальной офисной работе. Но есть нюанс 🤖📉Тут команда исследователей выкатила бенчмарк ApprenticeBench. Вместо синтетической духоты из серии «реши 500 задач с литкода» авторы смоделировали реальный онбординг сотрудника. Взяли строительную компанию Acme Home Builders, реальную ERP-систему, годовой поток входящих документов и посадили агентов на позицию бухгалтера по расчетам с поставщиками.Задача: разгребать инвойсы, матчить позиции со сметами, разбираться с кривыми сканами, вести переписку с вендорами и адаптироваться к правилам компании, которые никто прямо в промпте не разжевывает.Цифры на первый взгляд — мечта любого стартапера: флагманы в лице Fable 5.1 (72%) и GPT-6 Astra (68%) вчистую переиграли живых опытных специалистов (лучший человек набрал всего 51%).Казалось бы, пора открывать
Олег Булыгин | Полезная нагрузка
18 сент., 11:59
Олег Булыгин | Полезная нагрузка
18 сент., 07:59
Если вы работаете в сфере IT, развиваетесь в технологиях или просто хотите быть в курсе самых важных новостей и трендов - эта папка для вас!Что внутри:▪️ IT-новости и главные события технологического мира▪️ Полезные сервисы и инструменты для работы▪️ Полезные материалы, которые можно сразу применять в работеА также в папке есть Чат-нетворкинг: "ЗАЯВИ О СЕБЕ", где вы можете разместить информацию о себе, своих услугах, кейсах и оставить свои контакты.🔥 Изучайте, подписывайтесь на интересные каналы и забирайте полезные знания, собранные в одной папке!Жми на ссылку и присоединяйся: 👇https://t.me/addlist/-8Lua6U4wgUwMjg0ЗАПИСАТЬ СВОЙ КАНАЛ В ПАПКУ
Олег Булыгин | Полезная нагрузка
18 сент., 05:59
Рано хоронили LeetCode: Google готовит новые круги ада 🎪На Reddit гремит пост от сотрудника Google с громким заголовком: «LeetCode grind мёртв, Google меняет собеседования для разработчиков».Компания раскатывает два новых этапа на проверку «AI Fluency»:1️⃣ AI Debugging. Вас закидывают в гигантский незнакомый легаси-репозиторий и смотрят, способны ли вы с помощью нейросетей оперативно раскопать спагетти-код, локализовать проблему и выкатить рабочий патч, не положив прод галлюцинацией.2️⃣ AI System Design. Проектирование распределенной архитектуры, где модель выступает спарринг-партнером: с её помощью нужно оценивать трейдоффы, набрасывать интерфейсы и искать узкие места.Звучит свежо и жизненно? Но автор треда скромно добавляет в постскриптуме: «Две классические секции по алгоритмам и структурам данных (DSA),RedditFrom the leetcode community on RedditExplore this post and more from the leetcode communityОлег Булыгин | Полезная нагрузка
17 сент., 09:03
Работал из больницы во время операции жены. Итог: блок учетки и пинок под зад 🤷♂️По сети расходится слезливый пост от жены инженера по имени Сорабх, которого на днях выставили из Oracle.Мужик отдал конторе 12 лет жизни (в IT суммарно около двадцати). Жена с гордостью перечисляет его «подвиги»: — Работал из больничной палаты на ноуте, пока ей делали операцию по удалению полипов. — Сидел на созвонах во время отпуска, пока она вела машину через Нью-Мексико. — Пахал по ночам до 3 утра, забивал на выходные и все национальные праздники. — Брал награды уровня «Лучший сотрудник года».Как гигант IT-индустрии отблагодарил своего преданного стахановца?Утром в понедельник он просто не смог залогиниться в рабочую систему, а на личную почту прилетело шаблонное письмо счастья: «После тщательного анализа потребностей бизнеса мы упраздняем вашу позицию...
Олег Булыгин | Полезная нагрузка
16 сент., 14:03
Олег Булыгин | Полезная нагрузка
16 сент., 09:03изменён
Минобрнауки собирается перестроить все высшее образование под ИИ 🎓Глава ведомства Фальков выдал базу: отдельного курса по ИИ уже недостаточно, искусственный интеллект должен стать сквозной инфраструктурой для всех процессов, а главная задача университета — давать широкий кругозор, а не только узкую специальность.С одной стороны, прямо хорошее заявление и я подписываюсь почти под каждым словом (кроме того, что широкий кругозор — это вот прямо главная задача).С другой стороны, я уже в красках представляю, как эту «инфраструктуру» начнут реализовывать на местах 🌚🔵Закупят очередной «суверенный ИИ-ассистент» за оверпрайс, который окажется кривой оберткой над опенсорсной моделью с интерфейсом из эпохи Web 1.0. 🔵Напишут 500 страниц методичек в духе: «Правила формирования стандартизированных промптов при сдачеЕ1.руВ Минобрнауки анонсировали реформу высшего образования: из-за ИИ хотят переделать всю программуГлава ведомства назвал главную задачу университетовОлег Булыгин | Полезная нагрузка
15 сент., 14:03изменён
Сериал про «мы все умрём от ИИ» продолжается 🍿Только на днях разбирал внезапный приступ экзистенциального ужаса у исследователей из фронтир-лабораторий, удивительно совпавший с подготовкой к IPO и мега-раундами финансирования.Редакция «Теперь вы знаете» снова обратилась ко мне за мнением. В этот раз разбирались, почему Дарио Амодеи, Сэм Альтман и примкнувший к ним Илон Маск синхронно заговорили о том, что гонку пора бы притормозить, инженеры пачками увольняются «спасать человечество», а сетевые активисты обещают за увольнения чуть ли не закрытые оргии в Сан-Франциско (да, этот прекрасный сюжетный твист в статье тоже есть 🙃).С коллегами поясняем в том числе про: 🔵 Где граница рекурсивной петли? Насколько модели реально способны дообучать сами себя уже сегодня, какие кускиDeadlineDonald Trump Says There Already Are Enough Guardrails Around AIThe president signaled that he would oppose new regulation.Олег Булыгин | Полезная нагрузка
15 сент., 10:18
Олег Булыгин | Полезная нагрузка
14 сент., 15:59изменён
Скриньте! 👍
Олег Булыгин | Полезная нагрузка
14 сент., 09:02
Олег Булыгин | Полезная нагрузка
13 сент., 12:02
🤬 «Хватит называть это обучением. Это шпионаж»: Навье-Стоксгейт не утихаетВ продолжение моего поста о том, как OpenAI «решила» задачу тысячелетия: вчера вышел большой материал Проекта «Теперь вы знаете», где я вместе с коллегами по цеху дали комментарии по этому кейсу.Пересказывать статью не буду, кому интересна полная фактура — почитайте.☝️Но сама ситуация продолжает полыхать и градус не понижается. Начали всплывать другие уважаемые ученые (вроде математика Андреаса Тома), которые с удивлением обнаружили: их закрытые дискуссии с ChatGPT по свежим методикам подозрительно быстро материализуются в публичных успехах самой OpenAI.Комменты в треде прекрасные: «Перестаньте говорить "обучение", когда вы имеете в виду "чтение чужих черновиков" или "шпионаж". Подмена понятий позволяет ИИ-компаниям врать дальше». «НельзяX (formerly Twitter)Valerio Capraro (@ValerioCapraro) on XBREAKING: OpenAI might have stolen another major proof. In a detailed Mastodon post, which I report in full in the comments, Andreas Thom presents several pieces of evidence suggesting that Open…Олег Булыгин | Полезная нагрузка
13 сент., 06:40
С 256-м днём года всех, кого уже два года усердно «заменяют нейросетями» 💻Каждый год в этот день нашу профессию кто-нибудь торжественно хоронит. Сначала нас должен был помножить на ноль no-code. Потом low-code. Сейчас Дженсен Хуанг с серьезным лицом вещает со сцены, что учить детей программированию — ошибка, ведь сетки сделают всё за нас (главное — не забывать докупать новые партии чипов Nvidia, ага 🌚).🎉 Поздравляю всех причастных. Тех, кто помнит, что под капотом любого фреймворка и агента всё ещё крутится кремний, железо и базовая логика. Кто умеет не просто нажимать Tab, принимая автокомплит, а понимает, что и зачем там написано.Дерьмового кода вокруг становится на порядки больше, а значит, чинить и разгребать это кому-то придётся по повышенной ставке 🤝 А может быть скоро и не будем праздновать такой
Олег Булыгин | Полезная нагрузка
12 сент., 09:03
«Мы создаём сверхразум, и он нас убьёт» 🍿В X развернулся образцово-показательный сериал, от которой пахнет не столько экзистенциальным ужасом, сколько прогревом перед IPO.Сценарий классический: инсайдер внезапно «прозрел», испугался мощи создаваемого франкенштейна и побежал спасать человечество через соцсети и телевидение.Для контекста — хронология событий за последние пару дней:1️⃣ Исследователь Джейкоб Коксон, который три года занимался претрейном сначала в OpenAI, а затем в Anthropic, громко хлопает дверью и пишет тред: «Обе компании ведут себя безответственно. Они на полной скорости несутся к самообучающемуся супер-интеллекту (ASI) и играют нашими жизнями».Твит моментально пробивает 150+ миллионов просмотров.2️⃣ В реплаях начинается парад солидарности: сотрудница отделаX (formerly Twitter)Jacob Coxon (@hilbertspaess) on XThe people building AI earnestly believe that it could kill us all by the end of the decade. This is not a marketing stunt. If anything, many executives and senior researchers will couch their phr…Олег Булыгин | Полезная нагрузка
11 сент., 09:03
Как Spotify срезал 90% токенов в Claude CodeКогда вы даете условному Claude Code задачу разобраться в легаси-проекте или написать тесты, львиная доля токенов улетает не на гениальный ризонинг. Она сгорает на том, что фронтирная модель за бешеные деньги просто читает файлы с тысячами строк кода ради поиска одного метода или фигачит тридцать типовых юнит-тестов по шаблону.И разработчики скармливают этот мусор топовым frontier-моделям, которые для таких задач оверквалифайд примерно как профессор ядерной физики, подметающий склад. В итоге компании начинают сжигать по $300–$1000 на "ИИ-разработчика" в месяц просто на перекладывании байтов туда-обратно.Инженеры из Spotify выкатили статью и репозиторий со своими AI-плагинами (portal-ai-plugins), где показали плагин shunt, срезающий потребление токенов в Claude Code в среднем на 90%.Архитектурный паттерн там раскладывается на три слоя:
Олег Булыгин | Полезная нагрузка
10 сент., 09:03изменён
Навье-Стоксгейт: как сжечь $20 млн и «решить» задачу тысячелетия 🧠Уже все обмусолили эту тему, поэтому я даже как-то не очень хотел писать. Но спрашивают, поэтому все же зафиксирую свою позицию. А то вдруг адепты "ВОТ ОН AGI" опять найдут очередное доказательство того, что завтра ИИ заменит всех ученых. Если кратко, то мой ответ будет, как и прежде — не завтра.Кратко о том, что вообще произошло, для тех кто был в бункере OpenAI публикует препринт с доказательством разрушения гладких решений (формирования сингулярности за конечное время) для уравнений Навье-Стокса с формализацией в Lean. Это одна из семи задач тысячелетия Института Клэя с наградой в $1 000 000.Подают это так: «Наша новая внутренняя модель за пару дней натравила рой из 10 000 агентов, сожгла 130 миллиардов токенов и решила проблему, над которой физики и математики бились почти век».
Олег Булыгин | Полезная нагрузка
9 сент., 16:45изменён
Почему "нейрослопом" называют только то, что нагенерили нейросетки? 🗑Заметили, с каким сладострастием интернет сейчас клеймит всё подряд этим термином?Кривая картинка — нейрослоп. Пост с длинными тире и аккуратными списками — расстрелять, бездушный нейрослоп! 🤣 Код с галлюцинацией в одной строчке — фу, бездушный нейрослоп!Будто до релиза ChatGPT весь интернет был цветущим садом, там обитали исключительно титаны античной мысли, код писался строго по Фаулеру, а в публицистике и статьях благоухали шедевры уровня Достоевского.А потом пришел Сэм Альтман и персонально насрал вам в ленту.Объясните мне простую вещь: почему, когда бездарный шлак выплёвывает кластер H100 — это вселенская катастрофа, деградация цивилизации и «нейрослоп»? А когда точно такой же позор всю дорогу генерируют люди — это... что? «Крафтовое
