Gemma 2B with 10M context length using Infini-attention.Gemma 2B - 10M Context Gemma 2B with recurrent local attention with context length of up to 10M. Our implementation uses <32GB of memory! Features: 10M sequence length on Gemma 2B. Runs on less than 32GB of memory. Native inference optimized for cuda. Recurrent local attention for O(N) memory. Quick Start Note: This is a very early checkpoint of the model. Only 200 steps. We plan on training for a lot more tokens! Install the requi…
The PDF file... ...contains all the code for this project. It's handy for uploading to Claude.AI or ChatGPT if you want to make your own modifications. I create those sorts of PDFs with: https://github.com/jgravelle/GetCodeAsPdf What's new? Customizable agents! They're now manually editable, and NOW, they can 'evolve' with your project! We'll have a new video out soon! Temperature control Careful setting it too low. It can hose up your agent generations. What the h…
В последние годы странно всплыла тема ленточных микрофонов. Их, казалось бы, давно списанные в запасники истории, внезапно полюбили музыканты и звукорежиссеры, и все их фатальные недостатки (нехватка отдачи на высоких частотах, специфический характер звучания, малая чувствительность и проч.) внезапно стали превозносить, как достоинства. И... их стали делать. Причем — во всех ценовых категориях. Справедливости ради, надо сказать, что ленточный микрофон при всех тонкостях, конструктивно и техноло…
Чтобы баллотироваться на должность президента Исландии, нужно быть гражданином этой страны в возрасте от 35 лет и собрать от 1 500 до 3 000 подписей избирателей. Впервые в истории Исландии этот процесс сбора подписей стал цифровым. Теперь, избегая традиционной бумажной волокиты, кандидаты отправляют граждан на вот такой портал. Это изменение также впервые за всю историю страны позволило обеспечить полную прозрачность относительно того, кто конкретно баллотируется на пост президента. Получило…
Если у вас зоопарк из серверов, то не стоит сравнивать абсолютные показатели. Нормализуйте.К нам обратился заказчик из сферы развлекательного видеостриминга с интересной проблемой - у него серверы падали не одновременно, а ему очень хотелось бы добиться синхронности.Серверы, которые смущали заказчика работали в роли бэкенда для хранения видеофайлов. По сути, это было множество узлов, содержащих десятки терабайт видеофайлов, которые предварительно были нарезаны в разном разрешении конвертерами. …
На протяжении почти 60 лет Большой взрыв остаётся самой успешной теорией, объясняющей происхождение всего на свете. Начавшись с горячего, плотного, богатого материей и излучением состояния, Вселенная с тех пор расширялась и охлаждалась. В процессе эволюции в ней сначала образовались протоны и нейтроны, первые лёгкие элементы, стабильные атомы и, в конце концов, звезды, галактики, планеты и сложная химия, способная породить жизнь. Спустя 13,8 миллиарда лет после того, как всё началось, мы наблю…
A repo to conduct vulnerability enrichment.CISA Vulnrichment The CISA Vulnrichment project is the public repository of CISA's enrichment of public CVE records through CISA's ADP (Authorized Data Publisher) container. In this phase of the project, CISA is assessing new and recent CVEs and adding key SSVC decision points. Once scored, some higher-risk CVEs will also receive enrichment of CWE, CVSS, and CPE data points, where possible. Producers and consumers of this CVE data should alread…
A comprehensive collection of KAN(Kolmogorov-Arnold Network)-related resources, including libraries, projects, tutorials, papers, and more, for researchers and developers in the Kolmogorov-Arnold Network field.Awesome KAN(Kolmogorov-Arnold Network) A curated list of awesome libraries, projects, tutorials, papers, and other resources related to Kolmogorov-Arnold Network (KAN). This repository aims to be a comprehensive and organized collection that will help researchers and developers in the w…
A self-hosted dashboard that puts all your feeds in one placeWhat if you could see everything at a... Glance Install • Configuration • Themes Features Various widgets RSS feeds Subreddit posts Weather Bookmarks Latest YouTube videos from specific channels Calendar Stocks iframe Twitch channels & top games GitHub releases Site monitor Themeable Optimized for mobile devices Fast and lightweight Minimal JS, no bloated frameworks Very few dependencies Single, easily distributed <15mb b…