Latest posts
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
22 Sept, 06:31
Тут в психотерапевтическом сообществе произошел какой-то локальный скандал насчет проекта "Чистые когниции". На всякий случай: я все эти названия и людей первый раз увидел только что, в лор не погружен совсем.Но мне кажется интересным вот что: создается ощущение, что каждый раз, когда собираются в кучу максимально оттерапевтированные проработанные мягкие котики с идеей "а давайте замутим новаторскую горизонтальную организацию без иерархии, где всё будет обсуждаться словами через рот" — кончается это в итоге построением какой-то максимально токсичной и дисфункциональной клоаки.У стороннего наблюдателя может даже возникнуть мысль, что все эти организационные фишки с иерархией и четким распределением прав и ответственности — не просто так появились и несут в себе какой-то важный практический смысл.TelegramEQUALITYУЖАСНАЯ ИСТОРИЯ "ЧИСТЫХ КОГНИЦИЙ" Всем привет, друзья. На связи Елизавета, и это очень важный и трудный пост. Мы не один год рекомендовали "Чистые Когниции" как хороший просветительский проект. Никаких деловых отношений между нами не было, мы просто искренне…Самые умные мысли Павла Комаровского (и немножко щитпостинг)
20 Sept, 11:21edited
Подумал, кстати, что интересно было бы оценить нашу дискуссию с Иваном Ямщиковым трехлетней давности с точки зрения того, что произошло с тех пор. Попросил GPT-5.6 Sol, а также Claude Opus 5 выделить основные тезисы сторон, и сравнить их с текущим положением вещей — что состарилось хорошо, а что не очень (ссылки на их анализ выше).С точки зрения проблемы AI alignment мы явно за последние три года продвинулись в сторону "риск выше, а не ниже":— Способности ИИ за это время видимо прокачались, сильных свидетельств в пользу "достижения потолка" или "упирания в стену" пока не заметно (хотя, такие мнения за эти три года регулярно высказывались некоторыми скептиками).— Надежного способа решать проблему контроля за ИИ / AI alignment так и не придумали.— Гипотеза Ивана, что более умный ИИ будет становиться всё более этичным, и вообще он впитает нашу этику на этапе обучения — покаYouTubeБезопасность искусственного интеллекта (Павел Комаровский, Иван Ямщиков и Арчет)Подпишись на участников беседы: - ТГ-канал Павла Комаровского — https://t.me/RationalAnswer - ТГ-канал Ивана Ямщикова — https://t.me/progulka - YouTube Ивана Ямщикова — https://www.youtube.com/@kroniker - ТГ-канал Арчета — https://t.me/Archet - Подкаст Арчета…Самые умные мысли Павла Комаровского (и немножко щитпостинг)
20 Sept, 09:30
Немного угораю с тех, кто пишет тейки вроде "ну вот Павел Комаровский же никогда не интересовался AI и вообще не беспокоился ни о каких рисках, а тут вдруг ВНЕЗАПНО поменял свою позицию… ну очевидно же, что это прогрев перед IPO!!"Тем временем, Павел Комаровский три с половиной года назад: — Дискуссия с Иваном Ямщиковым про экзистенциальные риски ИИ — Лонгрид про AI alignment — Интервью с Татьяной Шавриной (тоже про AI alignment и риски искусственного интеллекта)Про мнения топов из AI-индустрии, кстати, совершенно так же говорят: "ахаха, ну это типа просто совпадение, что они перед IPO внезапно начали говорить про все эти риски, да??"Ну типа, братан, ты хотя бы у Грока спроси — как давно все эти люди начали высказывать обеспокоенность рисками ИИ? Действительно ли это какой-то "новый хайп", или эти же ребята последовательно придерживались аналогичной позиции последние 10+ лет?TelegramЗаметки Computer Vision инженераА вы тоже заметили, что в последнее время налетела очередная волна хайпа вокруг искусственного интеллекта? Причём идёт она из совершенно разных мест. Подобные обсуждения стали появляться во многих каналах и на YouTube, причём преимущественно там, где раньше…Самые умные мысли Павла Комаровского (и немножко щитпостинг)
19 Sept, 12:15
В понедельник начинаем в моем клубе совместное изучение крутой книги The Missing Billionaires.Она только на английском, мне надо сделать перевод на русский. Еще несколько лет назад это был бы многомесячный очень дорогой проект с привлечением переводчиков, редакторов, дизайнеров, и так далее. Сейчас можно получить MVP за несколько часов работы с агентными LLM — только знай их подпинывай иногда со словами "братан, графики не забудь аккуратно добавить везде" и "форматтинг таблицы поехал, pls fix".Понятно, что итоговое качество такого слоп-перевода сильно ниже, чем было бы в случае работы профессиональной команды. Но оно, в целом, вполне норм на самом деле получается! Более чем достаточно для наших целей.Из интересного:🐌 Claude в режиме Work составил отличный подробный пошаговый план работы. Но когда дошло до дела, сказал "ой, так вам нужно COPYRIGHTED BOOK переводить?? сорян, мнеTelegramRationalAnswer | Павел КомаровскийМне тут к свежему дайджесту новостей написали в комментариях, типа: «Павел, а когда канал будет опять про финансы и инвестиции? Что-то сплошное ИИ…» Так вот, про инвестиции с практически-полезной точки зрения – я пишу (и читаю лекции) в нашем закрытом сообществе…Самые умные мысли Павла Комаровского (и немножко щитпостинг)
19 Sept, 06:01
Чудесная история про турецкие "сверхнадежные" ПИФы денежного рынка на канале War, Wealth & Wisdom.P.S. По совокупному опыту прошлых лет, напрашивается вывод: НИКОГДА НЕ инвестировать в любые активы со словами Terra, Tera, и другими однокоренными в названииTelegramWar, Wealth & Wisdom❗️В Турции дефолтнул самый популярный ПИФ денежного рынка В Турции прямо сейчас разворачивается беспрецедентный кризис в индустрии коллективных инвестиций. Регулятор (SPK) принял экстренное решение о принудительной ликвидации 131 инвестиционного фонда,…Самые умные мысли Павла Комаровского (и немножко щитпостинг)
18 Sept, 13:02
Так, тут вышло РАЗОБЛАЧЕНИЕ взлома Hugging Face, которое все репостят в англоязычном твиттере как "доказательство что никаких побегов роев агентов не было". Пришлось купить подписку на WSJ и написать небольшой тред с разбором.
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
18 Sept, 10:06
forwarded from @top_twit
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
18 Sept, 06:31edited
Жуховицкий пишет про то, как разводят через "доверительное управление на криптобирже BingX".P.S. Интересная реакция биржи, конечно. "Это скамеры, но это очень выгодные скамеры, а вам бы научиться лапшу с ушей снимать просто!.."TelegramМиша ЖуховицкийМесяц назад я писал пост, как у парня за 4 минуты спиздили 160 тысяч долларов с биржи BingX методом перелива, якобы через доверительное управление. Все 160 тысяч улетели на комиссии биржи. Из которых половину оставила себе биржа, а другую половину получил…Самые умные мысли Павла Комаровского (и немножко щитпостинг)
18 Sept, 06:05
Извините, а этого можно как-то избежать, или это произойдет в любом случае??
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
17 Sept, 15:56
OpenAI по слухам там почти решили еще одну задачу тысячелетия. Думаю, огромное число математиков сейчас лихорадочно нажимают в ЧатГПТ галку "разрешить использовать логи для улучшения моделей" и кидают в чат все пришедшие в голову гипотезы о том, как подходить к ее решению
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
17 Sept, 10:07
OpenAI пообещали впредь вовремя рассказывать о «бедокурстве» своих нейронокПодопечные Сэма Альтмана выложили новый фреймворк того, как они будут подходить к публичному раскрытию новых эпизодов всякой дичи от своих моделей. В качестве затравки рассказали про шесть новых случаев – кратко про это в новой статье.Вообще, неиронично надеюсь, что мой термин «бедокурство ИИ» в качестве русского эквивалента «AI misalignment» в итоге войдет в словари. Неужели я так многого прошу? 👉👈 Саму область AI alignment тогда будем называть «курощение ИИ», таков путь.Читать статью: https://habr.com/ru/companies/ods/articles/1083328/P.S. Как обычно, если материал вам понравился – буду благодарен за поддержку лайком/апвоутом на Хабре, это здорово помогает в его продвижении.Самые умные мысли Павла Комаровского (и немножко щитпостинг)
16 Sept, 15:06edited
Так, кто там говорил "а чё это китайские модели никуда не убегают, это не кажется вам ПОДОЗРИТЕЛЬНЫМ?" Так вот, Wired пишет, что Kimi K3 китайская тоже убегала через дырку в песочнице. Правда, никого взламывать не стала, т.к. нужные ей чит-коды лежали открыто на Гитхабе.Вангую, что в реплаях напишут "всё понятно, эти тоже хайпуют, чтобы денег поднять". Так работают теории заговоров: если китайские модели не убегают — это "пруф того, что OpenAI занимается псиопом". Если убегают — пруф того, что и Китай тоже псиопит! То есть, независимо от того, что произошло — всё в любом случае сложится в логичную картинку про то, что это всё фейк для классов.P.S. Ну ладно, как подсказывают в комментах — тут "побега" чёт совсем не вышло, китайская модель даже нормальную лазейку в полноценный интернет не смогла найти. Так, по Гитхабу только пошарилась. Незачет, минус кошкожена с плошкой риса!
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
15 Sept, 15:37
В чате Котенкова пытают нейросеть вопросами "да кто вообще такой этот Комаровский?"Пока читал, что она отвечает — думал, жестянка мне сейчас курсы по аналитике тут же продаст...
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
15 Sept, 14:04edited
Так, краткий апдейт вам хотел дать по Полимаркету. Раз уж на носу уже на этой неделе выборы — придется рассказать положняк по той ставке, с которой началось мое увлечение площадкой. А то я знаю, вы потом мне будете писать "поставил вслед за Павлом против ЕР и всё проиграл =(("У меня, тем временем, уже несколько раз там менялось направление ставок (напомню, речь идет о вероятности того, что Единая Россия получит наибольший прирост мест в Думе по сравнению со статусом кво): — Сначала я шортил ЕР по 90 — Потом покупал лонг по 53 — Потом опять шортил по 75Текущая моя позиция околонулевая, рынок болтается около 77%. Интуитивно мне кажется, что это слишком много, и надо шортить. К этому есть несколько предпосылок:🐌 Рейтинги ЕР сильно просели за последние полгода, на фоне всяких окружающих социально-экономических процессов.🐌 Ходили слухи от неких _источников_, что KPI по результатам
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
14 Sept, 18:56
— AI-оптимисты: "Да эти думеры просто в своих сценариях делают совершенно нереалистичные предположения о том, что люди будут вести себя максимально глупым образом, в реальности такого даже близко не будет…"— Тем временем, люди в реальности: "Наш план по контролю за AI – это СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ"
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
14 Sept, 12:18edited
В Твиттере тут опубликовали срывающее покровы расследование, которое на 100% бесспорно доказывает, что Джейкоб Коксон (автор вирусного треда про увольнение из Anthropic и риск ИИ на 170+ млн просмотров) — мошенник и обманщик, а всё это один гигантский псиоп.Я ознакомился с доказательствами, и вот вам моя краткая TLDR-выжимка. Держитесь крепче: «чувак, который хотел с помощью своего увольнения сделать громкое публичное заявление, действительно попытался сделать из своего увольнения громкое публичное заявление (и не скрывает это!)»Ну серьезно, там с таким придыханием упоминаются РАЗОБЛАЧАЮЩИЕ ФАКТЫ вроде: — Коксон пошел к журналистам из WSJ, чтобы про его позицию написали статью (и запостил свои твиты только после выхода материала) — Он попросил ряд своих корешей из AI-индустрии с похожими взглядами порепостить его тред, и т.д.О боже мой, если соединить все эти точки на доске
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
13 Sept, 18:26
Трамп заявил, что он никуда замедляться никому не позволит — и вообще, Америка под его началом должна построить Big Beautiful AI, не то что у Китая.Уровень сложности нашего таймлайна: будущее человечества зависит от способности деда разобраться в рисках AI и потом договориться с Китаем так, чтобы те не чувствовали, будто их пытаются набать.
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
13 Sept, 12:43
Просто выслушайте меня:— 5 сентября Аэлла (нишевая sex work-селебрити из Сан-Франциско) пообещала устроить персональную реверс-гэнгбэнг вечеринку для любого сотрудника OpenAI, который громко уволится из-за пренебрежения компании безопасностью ИИ.— 8 сентября Джейкоб Коксон (бывший сотрудник OpenAI) громко уволился из Anthropic из-за их пренебрежения безопасностью ИИ. Его пост набрал 170 млн просмотров и, возможно, приведет в итоге к принятию масштабного регулирования AI в США.Совпадение? Не думаю!Анализируя любое событие – всегда держите в голове «зачем на самом деле он это делает? какая у него тут личная выгода?..»
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
13 Sept, 10:32
Прикольно: чуваки сделали вирус-червь WeWorm, распространяющийся в приложении WeChat через звонки, которые для этого даже не нужно брать (!). То есть, ответного действия от человека для заражения никакого не требуется.Вичатом пользуется почти полтора миллиарда человек. Дыру уже пофиксили.
Самые умные мысли Павла Комаровского (и немножко щитпостинг)
13 Sept, 07:39
Это, конечно, полет мысли высшего разряда - написать в одном и том же посте два тезиса: 1) "Ведущие AI-лабы, зачем вам привлекать государство для того, чтобы замедлить развитие передового ИИ до безопасного уровня? Просто замедлитесь сами, и всё!" 2) "Это не сработает, потому что Китай всё равно не будет замедляться".Ну почему второй пункт не сработает? По этой логике, каждая из стран просто должна решить внутри себя не ввязываться во взаимную гонку ИИ, и всё - проблемы нет!!Вообще, тезис про "невидимая рука рынка сама приведет к наилучшему исходу, надо просто позволить свободной конкуренции порешать вопросы, завязанные на глобальные риски для человечества" выглядит, э-э, немного спорным?Вот мы прямо сейчас видим, как OpenAI, будучи более безрассудной из двух в плане безопасности разработки новых моделей, прет вперед напролом и одновременно: а) За последние полгода вмазалась в кучу
Related Channels
Other channels in the same section of the catalogue.
