Итак, ты как всегда сидел разинувши рот на совещании руководителей и напевал про себя «цвет настроения синий», пока коллеги обсуждали какую-то ебанину про склад и кредиторские задолженности, как вдруг прозвучало твоё имя и задача:
«Нам нужно внедрить в бизнес-процессы компании AI-модели для оптимизации».*
*(перевод для электросамокатчиков – «хочется, чтобы письма, отчёты, анализ и поставновку задач за нас делала иишка, а мы могли больше тереться у кофемашины и обсуждать новую часть Человека Паука»).
Итак, задача поставлена, бюджет не выделен, время ограничено, приступаем. Есть всего 3 варианта «внедрения» искуственного интеллекта:
1️⃣ Облачные модели. Это когда технологические компании предоставляют доступ к своему серверу, на котором их или не их нейронка даёт тебе нужный функционал. Чтобы работало – придется передавать все данные в их облако для обработки, гипотетически незнакомые мужики будут иметь к ним доступ.
2️⃣ Локальные модели. Это когда ты платишь бешеные миллионы Сберу за предоставление модели уровня 2010 года или скачиваешь открытый исходный код новой современной и бесплатной модели (да-да, подвоха нет), покупаешь в подсобку своего офиса серверную стойку и ставишь рядом с грязными тряпками. Теперь все будет работать без отправки в облако незнакомым мужикам.
3️⃣ Тут должна была быть шутка про индусов или карликов, но я не успел её придумать.
И вот почему это тебе не подходит:
😆 В твоей компании наверняка есть говно-регламенты типа конфиденциальности, запрещающие передавать данные в облака или ненадёжные сервисы.
Их ещё обычно соблюдают все сотрудники, которые с рабочих пк через левые vpn с оплатой неизветному номеру по спб загружают в GPT или Perplexity очередной договор, чтобы он составил список правок. Но стоит поднять обсуждение, где есть риски несоответствия собственным же регламентам, как ставится задача им соответствовать – не использовать облачное хранилище из за риска утечки объема продаж твоих бойлеров.
😭 У твоей компании нет денег на сервер, потому что он стоит как двушка в Мытищах.
Что делать то? Нельзя прийти к руководству без какого-либо решения, хотя бы самого говняного. Ты же – специалист.
Вот «хорошее решение… НЕ ОЧЕНЬ!» и план, как делать с самого начала:
1. Аудит точек бо… короче составь список, что не хочешь делать руками.
Не пытайся автоматизировать всё. Начни с того, что сжирает время рабочего дня сотрудников:
• Перекуры, видосики, поход в столовую, поиск более хорошего места на hh
• Клиентский сервис: автоответы на типичное нытьё и FAQ.
• Документооборот: выуживание сути из груды PDF и юридический аудит договоров.
• Продажи: написание персонализированных писем и дожим лидов в чатах.
• Операционка: суммаризация бесконечных созвонов и протоколы встреч.
• Маркетинг: конвейерный рерайт постов и генерация рекламных креативов.
• HR: скрининг сотен резюме и ответы на вопросы по внутренним правилам.
• Аналитика: Сведение данных из разных таблиц в один понятный отчет.
2. Закупка железа. Вот тут самое противречивое и интересное.
Забудь про серверные стойки. Тебе нужен заряженный десктоп, например 2 заряженные видюхи NVIDIA RTX 4090 (24 ГБ каждая). Это 48 ГБ видеопамяти – золотой стандарт для локального ИИ.
Около 800к – 1 млн руб. Это окупается за полгода на экономии времени сотрудников.
Почему противоречиво? Ты сможешь поставить туда только «тупую» (не волнуйся, намного умнее тебя) AI-модель без возможности обучения уровня GPT 3.5 или чуть выше. Но для бизнеса гораздо важнее гибкость и актуальность: такие AI мгновенно «подхватывают» любые изменения в регламентах или ценах, избавляя от необходимости тратить недели и миллионы на переобучение модели.
Делается это через RAG (об этом будет дальше). Это сводит к минимуму риск ошибок, так как нейросеть обязана ссылаться на конкретный текст из вашей базы данных, а не полагаться на свою «память», которая склонна к галлюцинациям.
⬇️ПРОДОЛЖЕНИЕ НИЖЕ⬇️
Кроме того, работа с локальными документами позволяет строго разграничить права доступа, гарантируя, что сотрудники увидят только ту информацию, которая им положена по регламенту, что невозможно сделать внутри единой обученной нейронной сети.
3. Установка. Не надо строить из себя Илона Маска.
Ставишь одну бесплатную прогу (например, Ollama), которая служит «черепом», и внутри неё скачиваешь сами мозги (Llama 3 (70B), Mistral Large, DeepSeek-V3 или Qwen 2.5).
Это работает как обычный игровой лаунчер: софт создает среду, а модель заливает в неё интеллект, превращая ваш системник в сотрудника, который не просит премию и не ходит на перекуры. В итоге получаешь готовое ядро, где железо наконец-то начинает приносить прибыль, а не просто служить подставкой для ног.
4. Настройка системы RAG.
Это программы, например, AnythingLLM или Dify. Работают как мост: с одной стороны они цепляются к «мозгам» нейросети, а с другой – управляют твоими сверхсекретными документами по бойлерам и счетам уборщице за клининг.
5. Загружаешь в систему всё свое говно.
PDF, Excel и инструкции, чтобы нейронка искала ответы в них, а не галлюцинировала. Физически это просто папка на твоем жестком диске, связанная с RAG программой из 4 пункта: для тебя это выглядит как «закинуть файлы в папку», а для системы – это создание цифрового слепка всей мудрости твоей компании, по которому она может искать информацию быстрее любого человека.
6. Прописываешь ИИ правила поведения.
Это называется системным промптом: если сама нейросеть – это двигатель, то промпт – это настройки бортового компьютера. Настраивается в любой программе, которую мы выбрали: в AnythingLLM, Dify, Ollama есть поле System Instructions или Character Prompt. Для этого понадобится мужик из следующего пункта.
7. Назначаем крайнего…
…ответственного, обычно айтишника, который будет следить, чтобы сервер не перегрелся, а база документов вовремя обновлялась. В идеале он должен и вести весь план от первого пункта.
🌈 Всё, что ты прочитал выше, звучит как охренительный киберпанк и билет в высшую лигу, но сниму тебе розовые очки.
По правде говоря, вся эта свистопляска с автоматизацией процессов через AI нужна только тем, кто реально тонет в данных: огромным корпорациям с терабайтами регламентов и штатом, который тупеет быстрее, чем обновляется их софт.
Если же ты – гордый ИП или ооошка с <50 сотрудников и полутора договорами в месяц, то покупка этого железного монстра за миллион станет твоим самым дорогим и бессмысленным факапом. Для твоих масштабов нет технологии надежнее и эффективнее, чем старая добрая тетрадка в клеточку и собственная память. Не пытайся лечить насморк установкой аппарата МРТ в гараже.