https://support.qbpro.ru/api.php?hidebots=1&urlversion=1&days=7&limit=50&action=feedrecentchanges&feedformat=atom 2026-06-16T18:17:18Z Отслеживание последних изменений в вики. MediaWiki 1.38.1 https://support.qbpro.ru/index.php?title=%D0%9B%D1%83%D1%87%D1%88%D0%B0%D1%8F_%D1%81%D0%B1%D0%BE%D1%80%D0%BA%D0%B0_%D0%B4%D0%BB%D1%8F_%D0%BB%D0%BE%D0%BA%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D0%B3%D0%BE_%D0%98%D0%98_%D0%BD%D0%B0_%D1%81%D0%BB%D0%B0%D0%B1%D0%BE%D0%BC_%D0%B6%D0%B5%D0%BB%D0%B5%D0%B7%D0%B5:_OmniCoder-9B,_llama.cpp_%D0%B8_32_%D0%93%D0%91_%D0%9E%D0%97%D0%A3&diff=4716&oldid=4667 2026-06-15T19:06:51Z

<p></p> <table style="background-color: #fff; color: #202122;" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="ru"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">← Предыдущая версия</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">Версия от 22:06, 15 июня 2026</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l86">Строка 86:</td> <td colspan="2" class="diff-lineno">Строка 86:</td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Разберём каждый флаг, потому что без понимания вы будете тыкать наугад.</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>Разберём каждый флаг, потому что без понимания вы будете тыкать наугад.</div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br/></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br/></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>-n 512: генерируем 512 токенов. Достаточно для небольшой функции или блока кода.</div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"> </ins>-n 512: генерируем 512 токенов. Достаточно для небольшой функции или блока кода.</div></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>-t 10: используем 10 CPU-потоков для обработки тех слоёв, которые не влезли в VRAM. Оптимально для большинства 6-8 ядерных процессоров.</div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"> </ins>-t 10: используем 10 CPU-потоков для обработки тех слоёв, которые не влезли в VRAM. Оптимально для большинства 6-8 ядерных процессоров.</div></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>-ngl 33: САМЫЙ ВАЖНЫЙ ПАРАМЕТР. Количество слоёв, которые загружаем в VRAM. OmniCoder-9B имеет около 40-45 слоёв. 33 – это примерно 75% модели. Они будут обрабатываться на GPU со скоростью света. Остальные слои (offload) уйдут в оперативку и будут считаться на CPU. Баланс, который позволяет уместить модель в 8 ГБ VRAM и не превратить генерацию в слайд-шоу.</div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"> </ins>-ngl 33: САМЫЙ ВАЖНЫЙ ПАРАМЕТР. Количество слоёв, которые загружаем в VRAM. OmniCoder-9B имеет около 40-45 слоёв. 33 – это примерно 75% модели. Они будут обрабатываться на GPU со скоростью света. Остальные слои (offload) уйдут в оперативку и будут считаться на CPU. Баланс, который позволяет уместить модель в 8 ГБ VRAM и не превратить генерацию в слайд-шоу.</div></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>-c 8192: размер контекста. 8K – хороший компромисс для работы с несколькими файлами. Можно и больше, но помните: каждый токен контекста съедает память. Если нужен огромный контекст, изучите технику SSD offload.</div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"> </ins>-c 8192: размер контекста. 8K – хороший компромисс для работы с несколькими файлами. Можно и больше, но помните: каждый токен контекста съедает память. Если нужен огромный контекст, изучите технику SSD offload.</div></td></tr> <tr><td class="diff-marker" data-marker="−"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>--temp 0.2, --top-p 0.95: параметры «творчества». Для кодинга нужна низкая температура (больше детерминизма) и высокий top-p (для разнообразия, но без бреда).</div></td><td class="diff-marker" data-marker="+"></td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;"> </ins>--temp 0.2, --top-p 0.95: параметры «творчества». Для кодинга нужна низкая температура (больше детерминизма) и высокий top-p (для разнообразия, но без бреда).</div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>После запуска вы увидите, как модель загружает слои в VRAM и RAM. Если всё настроено верно, потребление VRAM будет на уровне 6.5-7.5 ГБ, а оперативки – 12-15 ГБ. Генерация 512 токенов должна занимать 20-40 секунд. Это не мгновенно, но вполне терпимо для обдумывания задачи.</div></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>После запуска вы увидите, как модель загружает слои в VRAM и RAM. Если всё настроено верно, потребление VRAM будет на уровне 6.5-7.5 ГБ, а оперативки – 12-15 ГБ. Генерация 512 токенов должна занимать 20-40 секунд. Это не мгновенно, но вполне терпимо для обдумывания задачи.</div></td></tr> <tr><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br/></td><td class="diff-marker"></td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><br/></td></tr> <!-- diff cache key pgdb4support-mediawiki-:diff::1.12:old-4667:rev-4716 --> </table>

Vix