Simple and efficient pytorch-native transformer text generation in <1000 LOC of python.gpt-fast Simple and efficient pytorch-native transformer text generation. Featuring: Very low latency <1000 lines of python No dependencies other than PyTorch and sentencepiece int8/int4 quantization Speculative decoding Tensor parallelism Supports Nvidia and AMD GPUs This is NOT intended to be a "framework" or "library" - it is intended to show off what kind of performance you can get wi…
Компания Okta завершила расследование по факту взлома системы поддержки клиентов, произошедшего в прошлом месяце. Как оказалось, хакеры получили доступ к данным всех клиентов компании, а не 1% пользователей, как сообщалось изначально. Напомним, что в результате этой атаки уже пострадали 1Password, а также компании BeyondTrust и Cloudflare.
Компания Apple выпустила внеплановые патчи для двух уязвимостей нулевого дня, уже используемых в атаках (CVE-2023-42916 и CVE-2023-42917). Сообщается, что эти проблемы, обнаруженные в движке WebKit, затрагивают iPhone, iPad и Mac.
Компания Zyxel устранила многочисленные уязвимости в своих продуктах, включая ряд критических. К примеру, эти баги могут позволить неаутентифицированному злоумышленнику выполнять команды на уязвимых NAS компании.
По данным исследователей из компаний Corvus Insurance и Elliptic, с апреля 2022 года русскоязычная хак-группа Black Basta получила не менее 100 млн долларов выкупа, взломав более 90 жертв. При этом самый крупный платеж составил 9 млн долларов, а средний размер выкупа равен 1,2 млн долларов.
Разработчики WhatsApp представили новую функцию Secret Code, которая позволит пользователям скрывать закрытые чаты с помощью отдельных паролей (которые могут содержать даже эмодзи).
«Мужики! Я вам запрещаю выпускать меньше 200 тонн хлеба в сутки», — примерно это 92 года назад заявил Георгий Марсаков, и перевернул игру, создав инженерное чудо. Что же такого он придумал? Давайте разбираться.1920-е годы в Москве, как и во всем СССР были не сладкими. Население города неумолимо росло, еды не прибавлялось. Пекарни просто физически не могли обеспечить достаточный выпуск одного из главных продуктов питания, — хлеба, по причине того, что не смотря на век индустриализации, его вы…
В этой статье я расскажу вам о том, как мы в Ozon оптимизируем базовый поиск: как у нас выстроены процессы, как найти бутылочное горлышко, конкретные рекомендации по написанию горячего кода, реальные примеры значимых оптимизаций и что делать, когда все низко висящие фрукты уже сорваны, а хочется ещё.Из статьи Сергея Саияна вы можете узнать, что мы в Ozon написали на Java свой поисковый движок на базе Apache Lucene, который пришёл на смену Elasticsearch пару лет назад и используется для обработ…
Начнем издалека. В спецификации любого компьютера и в частности сервера непременно числится надпись "N гигабайт оперативной памяти" - именно столько в его распоряжении находится физической памяти.Задача распределения доступных ресурсов между исполняемым программным обеспечением, в том числе и физической памяти, лежит на плечах операционной системы, в нашем случае Linux. Для обеспечения иллюзии полной независимости, она предоставляет каждой из программ свое независимое виртуальное адрес…