Image

Евгений Степанищев

Этот сайт — моя персональная записная книжка. Интересны мне, по большей части, программирование, история и события из моей жизни.

GPU: нашли в чём проблема с RTX 6000 Pro

Нашли, в чём причина плохого охлаждения графического ускорителя RTX 6000 Pro. Ларчик просто открывался — я сунул руку под карту и обратил внимание, что один из двух вентиляторов не крутится. Даже когда пытаешься провернуть его рукой, он прокручивается с небольшим сопротивлением.

Оказалось, что стойка поддержки видеокарты (такие используются для тяжёлых моделей) — я обозначил её стрелкой, на снимке она справа — резиновой опорой прижала вентилятор снизу, и он вообще не вращался. После того как мы передвинули стойку, температура перестала подниматься выше 80 градусов.

Кстати, если искусственно включить вентиляторы на стопроцентную производительность, то температура держится на уровне 70—75 градусов.

Image

До чего техника дошла!

Я всегда думал, что записанный голос с объявлениями в начале полёта воспроизводится каким-то встроенным оборудованием самолёта (ну несложно же установить на борту отдельный проигрыватель). Оказалось — не всегда.

По крайней мере, на вчерашнем рейсе (мы летели на «Аэробусе A321-232») стюардесса включала одно из объявлений со смартфона, поднося его прямо к трубке интерфона. По-русски и по-английски она говорила сама, а сообщение на турецком (мы вылетали из Стамбула) звучало в записи.

Image

Стамбул: кошки

Красоты города — это, конечно, отлично, но больше всего меня в Стамбуле удивили кошки. В прошлый наш приезд сюда, в 2012 году, мне это в глаза не бросилось. Впрочем, может, мы были в другом районе и не по всему городу так, но в этот раз ухоженные, упитанные кошки окружают нас буквально на каждом шагу.

Как сказала дочка, они тут «не облезлые попрошайки, а знатные толстенькие гости» — на улице даже есть специальные автоматы, куда можно бросить монетку, чтобы их накормить. Но и кроме этого тут постоянно встречаются вполне обычные кормушки, а так же домики для уличных кошек, стоящие прямо на пороге многочисленных кафешек и магазинов.

Они часто лежат или сидят где придётся и их никто не гоняет. Видимо поэтому большинство кошек непуганые, ласковые, сами бросаются гладиться.

У нас в Казани есть антикафе «Мурзик», где можно попить чай и погладить кошек, а тут — весь город такое антикафе.

Image
Картинка обработана нейросетью «Нанабанана», так что в надписях могут быть искажения

GPU: кратко про RTX 6000 Pro

Некоторое время назад я обещал выложить цифры производительности очень интересного графического ускорителя — RTX 6000 Pro.

Коротко: пока результатов нет. Несмотря на мощные вентиляторы на самой карте и уже установленные в корпусе компьютера, в который мы её поставили, она перегрелась в одном из первых тестов.

Будем усиливать охлаждение — добавим дополнительные вентиляторы и попробуем снова.

Image

Бытовое: вылет в Стамбул

Вчера весь день добирались до Стамбула — встали в шесть утра, а до отеля добрались незадолго до полуночи. Больше всего времени ушло на ожидание вылета — его несколько раз переносили. Должны были вылететь в 10¹⁰, а по факту в самолёт сели уже после пяти вечера.

Летели «Турецкими авиалиниями», и вот странность: авиакомпания сообщала нам об изменениях в расписании иногда за несколько часов до того, как они появлялись на табло в аэропорту. Так было три раза.

Например, я сфотографировал табло в 16¹¹. На табло было написано, что задержка нашего рейса — до 16³⁰, тогда как уже в 14²⁵ мы получили письмо, в котором сообщалось, что она будет до 16⁵⁵. То ли аэропорт не общается с авиакомпанией, то ли им просто пофиг.

Я ставлю на второй вариант. Мы сидели в бизнес-зале, и на дисплее у сотрудницы, к которой я подходил узнать новости, отображалось куда больше подробностей.

Например, только от неё я узнал, что наш самолёт, не сумев сесть в Казани, приземлился в Уфе и ещё оттуда не вылетел, тогда как общее табло оптимистично сообщало, что мы вот-вот пойдём на посадку в самолёт.

Я вообще понял, что мне бы хотелось видеть более подробный прогресс на табло. Например, в какой-то момент от сотрудников я узнал, что наш самолёт уже в порту и сейчас заправляется. Почему бы это тоже не вывести? После стольки часов ожидания мне было бы спокойнее узнать, что процесс двигается.

Image

Нейросети: Gemini 3.1 Pro Preview

Заметил сегодня, что в «Курсоре» появилась Gemini 3.1 Pro. А я только утром читал статью о том, что она стала доступна для раннего ознакомления и, якобы, уже «всех рвёт» по интеллекту. Заинтересовался, но, если честно, то, что я увидел, пока меня не впечатлило.

Собственно, всё на скриншоте — даже мой промпт видно.

Во-первых, модель зациклилась и не смогла остановиться — начала генерировать один и тот же токен. Такого я давно не видел, но, наверное, стоит это списать на то, что модель ещё находится в тестировании.

Во-вторых, качество решения моей задачи — очень несложной, замечу, — ниже плинтуса. В промпте описана проблема, с которой я недавно столкнулся: в «Виоле» у меня сделано так, что если какой-то сайт не открывается, я пытаюсь найти его в «Веб-архиве» и открыть через него.

Логично, что для локальных адресов этого делать не нужно — именно эту задачу я и поставил «Джемини».

В итоге решение содержит ошибку — если адрес будет начинаться на localhost (при этом он может не быть локальным) или некоторых цифр (такие домен я иногда встречаю), то алгоритм будет давать ложноположительный результат.

Image

Книги: «Вопрос и ответ»

Вчера прочитал вторую книгу из серии «Трилогия хаоса» Патрика Несса. По первой книге в 2021 году был снят фильм «Поступь хаоса», может, кто-то видел. Продолжения, кажется, не было, хотя на самом деле это трилогия.

После книг про Боба как-то тяжело шло: уж очень много испытаний проходят там главные герои. Учитывая, что и в жизни проблем хватает, пропускать через себя проблемы героев ещё и в выдуманном мире — как-то чересчур. Мне хотелось бы наоборот — какого-то эскапизма.

Зато в этой книге самый достоверный антогонист, которого я вообще могу вспомнить. Он раз за разом обманывал не только главных героев, но и меня. Раз за разом я почти ему верил, иногда всерьёз сомневаясь, — может быть я неправильно понял, может он это всё делает на благо? Не помню, чтобы я ещё где-то так искренне обманывался.

Не думаю, что это спойлер, когда читаешь книгу, какой-то частью мозга всё равно понимаешь, что примирения не будет, но почему-то всё равно хочется поверить в лучшие мотивы, такой парадокс.

Бытовое: заснеженный Стамбул

Напрасно я надеялся сбежать от зимы в Стамбул: сегодня написала экскурсовод, которую мы там наняли, и сказала, что в воскресенье в Стамбуле ожидается снег. Ну что за шутки, зима? Я надеялся хоть на какое-то тепло. А тут… снег, серьёзно?!

Image

Ещё почему-то перед этой поездкой я необъяснимо волнуюсь — причины мне не ясны. Да, давно не ездили никуда без тура, но ведь и не в первый раз: где мы только не были в таком формате. Вроде всё есть — паспорта, билеты, деньги, отель, экскурсовод, трансфер, — а всё равно переживаю.

Это непрошеное волнение, плюс погода, плюс дорога (очень не люблю проводить много времени в пути), — и я уже начинаю жалеть, что вообще всё это затеял: потратил деньги, семью потащил. Быстрее бы уже в самолёт — там уже поздно размышлять, не плюнуть ли на всё и не остаться ли дома.

Острова: предвкушаю

Ещё даже весна не наступила, а я уже предвкушаю, как мы с друзьями снова поедем летом на необитаемые острова — мы уже который год туда ездим, ночуя в палатке.

И который год пытаемся подобрать правильную обувь, чтобы с комфортом ходить по тамошнему каменистому берегу. Кроссовки неудобны тем, что промокают, в сапогах жарко, так что в прошлом году, закрывая сезон, мы пообещали друг другу испытать «кроксы».

Никто из нас их никогда не носил, но со стороны они выглядят подходящей обувью — мягкие, дышащие, и носок у них закрыт, в отличие от тапок — не поранишься о камни. Не уверен, что они не будут спадать при ходьбе с мокрой ноги, но почему бы не попробовать?

Правда, честно говоря, я совсем забыл про то обещание, пока в какой-то ленте мне не попались «кроксы» в виде Сквидварда. Не знаю, какой чёрт меня дёрнул их заказать: я и мультик-то этот не смотрел, но в тот момент у меня в голове выстроилась какая-то неопровержимая логика — остров, вода, Сквидвард живёт в воде, да и парни посмеются, когда я их надену. В общем, заказал.

Чтобы они не лежали просто так, надел их в офис — у нас там многие ходят в «кроксах». Они вообще как-то незаметно стали очень распространённой офисной обувью. А так как смысл «кроксов», в моём понимании, — быть уродливыми, у меня сейчас самые топовые (читай — самые уродливые) «кроксы» во всём офисе.

Правда на острова их везти как-то уже и жалко.

Image

Стены в кафе

Мы с прошлого года пытаемся расширить кафе — взяли в аренду соседнее большое помещение и делаем там ремонт. Не очень ходко всё идёт, но к финалу двигается. А так как помещения мы арендуем в старинном здании, когда сняли весь гипсокартон, я не мог не посмотреть что же за ним скрывалось.

Оказалось, что часть дома, по всей видимости, строилась позднее, потому что, на стене отчётливо видны заложенные дверь и окно. Ведут они с соседнее помещение, там где у нас сейчас кафе и с той стороны их, кстати, не видно. Если дверь может быть межкомнатной, то с окном непонятно — оно-то между комнатами зачем?

Внутри противоположной стены открылся ещё и старый домоход в копоти, но его уже заделали, не успел сфотографировать. При этой печки нет, то ли разобрали, то ли она была в каком-то другом помещении. Что интересно — дымоход идёт горизонально, в верхней части стены, непонятно зачем так сделано.

Image

Подписки

Недавно один приятель, когда мы затронули тему подписок на разные стриминговые сервисы и онлайн-кинотеатры, очень удивился тому, что я ни на что не подписан. У меня буквально ни одной подписки, за исключением бесполезного сейчас «Кинопоиска», который достался мне вместе с «Яндекс.Плюсом».

Зато у меня три подписки на нейроинструменты: «Нанабанану», где я обрабатываю фотографии; «ЧатГПТ» — для глубокого поиска и обработки текстов; и «Курсор», где я программирую.

Все сервисы заграничные, и меня очень раздражает, как во всех них реализована оплата. Я не держу на карте, которой их оплачиваю, много денег и, конечно же, время от времени, когда очередной сервис пытается списать деньги, их там не хватает.

Почему-то российские сервисы умеют автоматически повторять платёж: стоит положить деньги на соответствующую карту, и сервис их списывает. По неведомой мне причине заграничные сервисы так не умеют. Если платёж не удалось снять, то дальше это как будто только мои проблемы — приходится искать, в какую же щель силком запихнуть доллары, чтобы сервис их увидел.

Сегодня я борюсь с «Курсором». Уже оплатил всё вручную, но «Курсор» деньги всё равно не видит, хотя прошло уже несколько часов.

«Виола»: нейросеть «Опус 4.6»

Недавно компания «Антропик» выпустила новую нейросеть для программирования — «Опус 4.6». Я с большим интересом слежу за тем, что они выпускают, потому что, по моему опыту, их сетки программируют лучше любых других.

У меня в загашнике есть несколько сложных задач и с каждым обновлением программирующих нейросетей этот список потихоньку убывает — те задачи, которые ещё недавно были им не по зубам, постепенно поддаются.

«Опус 4.6» я тестировал на задаче реализации типа нумерации для списков в «Виоле» — в найденных мной материалах упоминается, что такая возможность должна быть, но она так и осталась нереализованной.

Image

До выхода «Опуса 4.6» нейросети с этой задачей не справлялись — либо ломали код, либо делали довольно кривую реализацию. «4.6» с задачей справилась. Рабочую реализацию она написала примерно с третьего раза, но я считаю, что это очень хороший результат, учитывая скорость её работы. Правда было два неприятных момента.

Во-первых, она самовольно ограничила вложенность списков шестью уровнями. Я нашёл это место на ревью кода, попросил убрать, и сеть довольно легко избавилась от ограничения. То есть никакой реальной необходимости в этом не было.

Во-вторых, в оригинальном коде есть баг — он рисует нумерацию графикой на элементе определённой ширины. Если числа очень большие, они начинают обрезаться, на римских числах это очень быстро становится проблемой.

С этим багом мы боролись очень долго. Конечно, это ожидаемо — «Курсор», — среда разработки, которую я использую, почему-то до сих пор не умеет самостоятельно скриншотить разрабатываемые приложения. Там где нейросеть не может быстро получить обратную связь, всё сильно замедляется, потому что мне приходится вмешиваться — делать скриншот, добавлять его в окно чата и описывать что не так.

RTX 6000 Pro

Настройка больших языковых моделей на оборудовании — какая-то совершенно отдельная дисциплина. Сколько ни набирайся опыта, а жизнь всё равно привносит что-то новое. Вот, например, мы недавно настраивали небольшую — 30 миллиардов параметров — модель на кластере 8×Nvidia H100. Так много, потому что она будет обслуживать запросы десятков тысяч пользователей.

В ходе экспериментов выяснилось, что лучше всего себя ведёт конфигурация из четырёх одинаковых моделей, установленных на паре видеокарт каждая. Я это связываю с тем, что в других конфигурациях либо слишком интенсивный обмен по NVLink, либо, напротив, модель слишком «зажата» по памяти — на кеши выделено слишком мало.

В общем, пока всё приходится испытывать на практике — выходит новое оборудование и надо понимать можем ли мы его рекомендовать клиентам.

В прошлом году появилась очень интересная карта — RTX 6000 Pro. Мы её заказали, чтобы погонять на ней наши модели. Она втрое дешевле, чем H100, при этом производительность у неё далеко не втрое ниже. В аренду мы почему разным причинам не смогли её получить, поэтому купили.

На фотографии я держу её в руке — оцените, какая она огромная, и поверьте: очень увесистая. Тут она в исполнении Workstation Edition, поэтому у неё есть собственное охлаждение; обычно в серверных картах оно только пассивное.

Погоняем тесты, потом постараюсь что-нибудь про это написать.

Image

Бытовое: город завалило

В этом году в Казани очень снежная зима: дорожные службы стараются изо всех сил, но не справляются, когда снег идёт несколько дней подряд. Во всех дворах — огромные кучи снега, вывозить не успевают. Кажется, прошлой зимой было то же самое: я помню, мы кучу денег заплатили за вывоз снега в коммунальных счетах.

Много засыпанных по крышу машин даже в рабочие дни — люди, похоже, даже не пытаются выехать. Легковушки вязнут в хрущёвских дворах, где не особо чистят; много машин стоит, мигая аварийками, на поворотах — там скапливается снег, когда его счищают с больших дорог.

В такую зиму я очень рад, что у нас гибридная машина: четыре независимых двигателя, почти 500 лошадиных сил суммарно. Пока проезжаем везде безо всяких проблем — только подвеску переводим в верхнее положение. Машина у нас ещё и очень тяжёлая за счёт батареи, поэтому сцепление у колёс очень хорошее — помогает в сложных ситуациях. В общем, китайцы — молодцы, умеют делать.

Из-за суровой зимы — кроме снега, ещё и очень морозно — в город налетело много интересных птиц: мы сегодня видели дрозда-рябинника, говорят, попадаются ещё свиристели и чечётки. Надо будет поприглядываться к птицам — обычно я не очень-то на них обращаю внимание.

Формально — двадцать дней до весны, но зима как будто только-только разошлась. Ближе к концу месяца решили слетать в Стамбул на три дня: там будут выходные, начнём весну досрочно.

Image
Дрозд-рябинник прилетел в соседний двор

Утилита «s-tools»

Вчера перед сном вспоминал, что ещё я такого программировал в детстве, о чём можно упомянуть, кроме программы «Паррот», о которой я рассказывал около месяца назад. Вспомнил про утилиту s-tools, которую мы писали вдвоём с братишкой на ассемблере x86 под ДОС.

Название придумал я. Расшифровывалось оно как «Stepanischevs’ tools», а сокращение намеренно было сделано похожим на «stools» — «табуретки», поэтому я нередко так эту утилиту и называл.

Это был набор утилит в одном файле и самый объёмный код на ассемблере, который мы когда-либо писали. Со временем мы сделали свой собственный «швейцарский нож» для командной строки, решая какие-то свои проблемы и натаскивая понравившиеся идеи.

Утилиты вызывались, если я ничего не путаю, при помощи номерного ключа, после которого шли параметры самой утилиты. К каждой из них прилагалось описание на русском языке. Часть программ была «резидентами» (TSR), и некоторые из них умели загружаться в HMA.

В ДОСе были специальные вызовы, при помощи которых можно было выделить себе в HMA кусочек памяти. Но поскольку это был один сегмент, программам приходилось модифицировать себя, чтобы поменять у себя внутри адреса ячеек памяти и использовать только ближние вызовы (jmp near или call near).

Image
Запись в моём ежедневнике, который я использовал как блокнот с описанием вызовов для выделения памяти в HMA

Я попытался вспомнить что именно умели «табуретки», но вспомнил только малую часть, разумеется. Утилиты в моём списке идут не по порядку следования, я его просто не помню.

Первое, что я вспомнил — в отдельном файле s-tools.ovl лежал шрифт, который мы вынули из какой-то утилиты. Буквы в нём казались больше, хоть и занимали то же стандартное для ДОСа знакоместо. Этим шрифтом наша утилита умела заменять системный. Расширение файла объясняется тем, что мы тогда неправильно понимали термин «оверлей» и думали, что это просто любой внешний ресурс.

Вторая утилита умела поднимать тайминги памяти на PC XT, идея была подсмотрена в каком-то журнале и позже, когда я начал лаборантить во время учёбы в Университете, она мне пригодилась — у меня был целый класс с этими компьютерами. Они были настолько медленными, что было заметно как буква за буквой выводится текст на экране. Так что даже небольшое поднятие производительности добавляло комфорта.

Третья утилита решала проблему буфера клавиатуры. Компьютеры в те времена работали так медленно, что не успевали обрабатывать весь ввод пользователя, он попадал в специальный буфер, а уже оттуда его забирали программы. Если вы печатали достаточно быстро, вы вполне могли упереться в размер буфера и услышать звуковой сигнал, означающий, что вам надо подождать.

Буфер можно было переместить, но недалеко — в пределах, если ничего не путаю, первых 64 килобайт ОЗУ. Я тогда нашёл в ДОС два неиспользуемых зарезервированных участка памяти, куда, на выбор, и переставлял этот буфер. Второй из этих участков в какой-то момент стала использовать программа сжатия диска на лету, которой мы тогда пользовались, из-за чего однажды разрушилась файловая система нашего компьютера (он был один на двоих).

Четвёртая утилита меняла палитру экрана. Если верно помню, в каком-то альтернативном драйвере ANSI.SYS была возможность заменить палитру на более глубокую. Нам это так понравилось, что мы позаимствовали эту идею. Я помню, что легкомысленно-синий цвет «Нортона Командера» превращался в что-то похожее, что я попытался изобразить на скриншоте ниже.

Image
«Волков Командер» с цветом панелей в альтернативной палитре

Следующая утилита выводила по нажатию какой-то горячей клавиши (наверное её можно было задавать) таблицу ASCII. Для нас с братишкой это было очень полезно — мы много программировали и таблица символов была часто нужна. Таких программ хватало, но мы написали свою.

Шестая утилита умела записывать в файл нажатые клавиши, а потом их «проигрывать» — это было удобно для автоматизации каких-нибудь механических действий. Помню долго думал как выходить из такой программы, ведь надо как-то различать ситуации, когда мы ещё записываем клавиши и когда мы хотим выйти. На мышь тогда полагаться было нельзя — её могло не быть на компьютере, где использовалась утилита, поэтому я придумал выходить по троекратному нажатию каких-то модификаторов — шифту, контролу, альту или, может, всем сразу, не помню точно.

Седьмую утилиту я написал уже когда учился в Университете. Как я уже упоминал, я тогда работал лаборантом и, как и все лаборанты, нередко во что-то играл в рабочее время — когда занимались студенты, просто сидеть и смотреть за классом было скучно. Поскольку моей начальнице это не нравилось, я написал утилиту, которая скрывала экран игры при помощи горячей клавиши. В стандартном ДОСе тех времён многозадачности не было, так что это был единственный способ.

Позже кто-то принёс альтернативную утилиту, которая умела скрывать экран ещё и игр, который использовали «расширители ДОС» (например, «Дум»), чего моя утилита не умела. Я старался доработать своё решение, но так и не понял как это сделать.

Восьмую утилиту, возможно, следовало бы вспомнить первой. Не исключено, что с неё и начались «табуретки», но это не точно. В те времена мы много работали с дискетами и, если на них портился сектор на нулевой дорожке, где помещалось оглавление файловой системы, то её можно было выбрасывать — несмотря на то, что другие сектора в таких случаях помечались как «плохие» и просто не использовались, тот же фокус с нулевой дорожкой не проходил.

Один из наших соотечественников написал драйвер pu_1700, позволявший выбрать другую дорожку для хранения оглавления. Было только одно неудобство — драйвер приходилось запускать с разными параметрами руками, чтобы работать с разными дискетами.

В «табуретках» была резидентная программа, которая по горячей клавише патчила память pu_1700, меняя дорожку с оглавлением. Это позволяло быстро переключаться между стандартными и нестандартными дискетами.

Больше никаких подробностей я чётко не помню.

Смутно припоминаю, что была некая утилита для сканирования файловой системы, которую точно писал братишка, но что она делала вспомнить не могу. Кроме того, было какое-то гадание по «алгоритму Пифагора» — там были какие-то математические операцией с датой и, возможно, временем рождения, получались какие-то цифры, которые как-то интерпретировались. Это были 90-е, тогда все увлекались мистикой.

Ранее Ctrl + ↓