Куда расти? podcast

Зачем Битрикс24 своя AI-платформа? Сергей Нотевский про нейросети внутри компании и цены на GPU

0:00
2:11:40
15 Sekunden vorwärts
15 Sekunden vorwärts
Сергей Нотевский — AI Lead в Битрикс24, руководит платформой, на которой работает весь AI компании: от транскрибации звонков до агента BitrixGPT. В новом выпуске обсуждаем, стоит ли компании разворачивать нейросети у себя или брать их как сервис (MaaS), как посчитать железо под открытую модель, почему бенчмаркам нельзя верить, что такое префикс-кэш, и при чём здесь четыре года работы фитнес-тренером.


► Максим Ульянов:


Канал в TG — https://t.me/ulyanov_life
Канал на YouTube — https://www.youtube.com/@how-to-grow-up/

Канал на RUTUBE — https://rutube.ru/channel/36693023/

Слушать в аудио — https://howtogrowup.mave.digital


► Сергей Нотевский:


Канал в TG — https://t.me/sergeinotevskii

Статьи Сергея на Хабр — https://habr.com/ru/users/Ser_no/articles/


Материалы из подкаста:


Битрикс24 — https://www.bitrix24.ru

Битрикс24 Вайбкод — https://vibecode.bitrix24.tech/

Вакансии в Битрикс24 — https://careers.bitrix24.ru/

LMArena (бывш. LMSYS Arena) — https://arena.ai

Context Arena — https://contextarena.ai/

LangFuse — https://langfuse.com/

Статья команды Manus про префикс-кэш — https://manus.im/blog/Context-Engineering-for-AI-Agents-Lessons-from-Building-Manus


Из выпуска вы узнаете:


• Чем разработка с AI похожа на менеджмент и кого из инженеров заменят первым?

• Как войти в IT без денег на курсы — по самодельной программе за два месяца?

• Почему Битрикс24 развернул модели у себя и что это даёт клиентам?

• Что такое MaaS (Model-as-a-Service) и за что вы на самом деле платите в цене токена?

• Как посчитать, сколько GPU-памяти нужно модели, и при чём здесь квантизация?

• Почему большое контекстное окно не гарантирует качество и что такое «гниение контекста»?

• Зачем писать свои тесты для моделей и почему бенчмаркам из релизов верить нельзя?

• Что такое префикс-кэш и как он экономит до 95% стоимости входящих токенов?

• Какие роли нужны в команде AI-платформы и что такое харнес (Harness)?

• Куда расти инженеру в эпоху AI и какой навык теперь важнее конкретных знаний?


Приятного прослушивания!

Weitere Episoden von „Куда расти?“