Меня долгое время интересовал запуск больших языковых моделей на пользовательских устройствах: есть что‑то в том, чтобы запустить одну из лучших языковых моделей на обычном домашнем компьютере или на мобильном телефоне, помещающемся в карман. В этом посте я расскажу о своём пет‑проекте AQLM.rs. Я написал инференс модели Llama 3.1 8B, работающий в браузере на WebAssembly без использования GPU, с помощью алгоритма сжатия, разработанного нашей лабораторией.Попробовать можно на сайте проекта.Почему…
Ты простой рабочий Иван, город Тверь. Идёшь по улице, поскользнулся, упал, очнулся – гипс. И по своей наивности думаешь, что всё самое интересное уже закончилось, ммм? Ну и вообще-то ты прав. Почти. Ведь если ты везунчик по жизни, у тебя есть уникальный шанс получить уникальное, восхитительное и малоизученное осложнение – жировую эмболию. Которая в перспективе может сократить твою оставшуюся жизнь до ближайших нескольких дней.В бережных руках травматологовИтак, для начала надо разобраться с тер…
Кто из нас ни разу не ел лапшу быстрого приготовления? Пожалуй, таких людей в наши дни практически не существует. Конечно, реноме у неё несколько неоднозначное, да и возможное влияние на здоровье вызывает сомнения — но бывает, что в завале и аврале без неё никак. Ну, и ныне почти в любом магазине можно увидеть широкий ассортимент вкусов и вариантов, в том числе давно не относящихся к категории «бич-пакетов» ни по качеству, ни по цене. Лапша быстрого приготовления, созданная в Японии в 1958 год…
ВведениеSega Channel — это сервис games-on-demand, предоставлявший абонентам кабельного телевидения ежемесячный доступ к библиотеке из примерно пятидесяти игр для Sega Genesis за помесячную оплату (обычно 10-15 долларов, в зависимости от поставщика услуг кабельного телевидения). Он работал с июня 1994 года (общий доступ по всем США включили в декабре 1994 года) по июнь 1998 года. Абонентам предоставлялся картридж-адаптер, подключавший их консоль Genesis к линии кабельного телевидения. При включ…
Толстый человек в очках валится навзничь от мощного удара в лоб и, распластавшись на спине, рыдает навзрыд, как ребенок. Трость, отброшенная могучей рукой телеевангелиста, приземляется на несколько метров дальше.Женщина твердит в исступлении: «Да, да, дадада», выгибается и пучит глаза, переходя на крик: «ДАДАДА!»«АЛИЛУУЙЙЙЯ, — орет проповедник на манер рок-звезды. — АЛИЛУУУЙЙЙЯ! ВЫ ЧУВСТВУЕТЕ ОГОНЬ В СВОИХ ВЕНАХ? ГОСПОДЬ, ВЫЖГИ ЕЕ РАК! ИСЦЕЛИ ЕГО ТРОМБОЗ! ДЬЯВОЛ, УБИРАЙСЯ ПРОЧЬ!» Аудитория захо…
Небольшой отчёт о моём опыте покупки кабелей и сетевых карт, а также тесты 25Гбит/с на слабых и быстрых компьютерах. Что же получилось собрать за 100 $, какие в реальности скорости получились, и как я сэкономил 30 $? Читайте далее в статье. ▍ Зачем Если у вас стоит такой вопрос, то оно вам точно не нужно. 25 гигабит дома — это уже не дёшево, в отличие от 10 и 2,5 гигабит, при этом без свичей, и требует сноровки и достаточно нового и быстрого железа для полноценной работы. Статья ориентиро…
Я тут иногда рассказываю про то, как устроен хостинг в блоге VDS-хостинга (знаю, для многих это уже неожиданно), а вы часто спрашиваете, почему у меня волосы на груди окрасились зачем нужны промотарифы за 40 и 130 рублей. И ещё: Зачем хостинг запускает свой спутник. Дидосим ли мы клиентов, чтобы продать им услугу DDoS-защиты. Сколько мы тратим на рекламу. Волосы на груди у меня окрасились, потому что я пролил на них ракетный окислитель. На рекламу и маркетинг мы тратим 11,21% от общих рас…
Возможно, вы знаете, что врачам-женщинам как-то традиционно принято дарить конфеты, а урологам и хирургам (обычно мужчинам) — коньяк. Но как конкретно работает эта система, какой там этикет, нужно ли приносить подарок до, после или во время лечения — непонятно. Я бы хотел разобрать эту практику в российской системе здравоохранения. Сегодня будет не про технологии в медицине, а больше про управление и этику. Система с конфетами врачам появилась в СССР, когда в бесплатной медицине можно было…
Вероятностные функции способны моделировать множество алгоритмов и процедур. Они помогают нам оптимизировать процессы для получения наилучших результатов. Опытные программные инженеры знают, что рано или поздно практически любое ПО достигает определённой степени недетерминированности, когда решение является не абсолютным, но при оптимальной конфигурации приближается к наилучшим результатам. В математическом смысле подобное решение обычно сводится к поиску минимума, максимума или пределов неких…