ERP/1: Істотність

Project

Розробка та впровадження локальної інтелектуальної платформи «ERP/1: Істотність» — когнітивної системи аналізу, семантичного пошуку та оцінки істотності інформації в документах та реєстрах.

Position / Deliverable

Повний цикл реалізації AI-модуля для екосистеми ERP/1 (локальний inference LLM + RAG + інтеграція з ERP/1).

Project Context

ERP/1: Істотність — це повністю локальна (on-premises / air-gapped) інфраструктура когнітивних сервісів, розгорнута в захищеному контурі підприємства. Платформа забезпечує виконання квантованих великих мовних моделей (LLM), семантичний пошук та оцінку значущості інформації без передачі даних у зовнішні хмари. Основна мета — максимальна конфіденційність, відповідність державним стандартам безпеки України та висока економічна ефективність.

Scope of Work (Main Deliverables)

1. Локальний Inference та Модельний Шар

• Розгортання та оптимізація Llama-3 (8B) та Phi-3 моделей з квантуванням (4-bit / 8-bit) на NVIDIA GeForce RTX 4070 Ti та подібних GPU.
• Підтримка fallback на CPU (AVX-512 / AMX) при збоях GPU.
• Автоматичне керування VRAM, temperature, context window та inference-параметрами.
• Інтеграція з Ollama / vLLM / HuggingFace Transformers в Kubernetes.

2. Семантичний RAG-контур

• Побудова векторної бази на базі FAISS + RocksDB для документів і реєстрів ERP/1.
• Автоматична індексація модулів «Документи», «Реєстри» та «Процеси».
• Реалізація Retrieval-Augmented Generation з ре-ранкінгом для мінімізації галюцинацій.
• Автоматична знеособлення даних (NER-фільтрація ПД) перед передачею в LLM.

3. Оркестрація та Відмовостійкість

• Повна GitOps-оркестрація через Kubernetes (Rancher) для 600+ вузлів.
• Автоматичний failover GPU → CPU та балансування навантаження.
• Self-healing інференс-контейнерів та rolling updates.
• Моніторинг Prometheus + Grafana (температура, VRAM, latency, throughput).

4. Інтеграція з Екосистемою ERP/1

• Захищений Erlang RPC / N2O integration з основними модулями ERP/1.
• API для семантичного пошуку, summarization, classification та оцінки істотності.
• Аудит логів усіх AI-запитів з tamper-evident записами.

5. Безпека та Compliance

• Повна відповідність КСЗІ України, NIST SP 800-53 та NIST AI 600-1.
• Air-gapped режим роботи без доступу до інтернету.
• Шифрування даних у спокої та в транзиті.
• Підготовка до зовнішнього аудиту безпеки.

Technical Stack

• GPU: NVIDIA RTX 4070 Ti (та подібні consumer/prosumer)
• Orchestration: Kubernetes, Rancher, GitOps (Flux/ArgoCD)
• Models: Llama-3 8B, Phi-3, квантування GGUF / AWQ
• Vector DB: FAISS + RocksDB
• Backend: Erlang/Elixir ecosystem (N2O.DEV / ERP.UNO)
• Monitoring: Prometheus, Grafana, OpenTelemetry
• Security: K8s Network Policies, Pod Security, encrypted storage

Required Expertise

• Досвід розгортання локальних LLM на consumer-grade GPU в production.
• Глибокі знання RAG-патернів, векторних баз та retrieval systems.
• Практичний досвід Kubernetes + GitOps у захищених середовищах.
• Розуміння вимог КСЗІ, NIST AI та data privacy в державному секторі.
• Досвід роботи з Erlang/Elixir та екосистемою ERP.UNO / N2O.DEV (перевага).
• Английська (Upper-Intermediate) + Українська.

Estimated Engagement & Success Criteria

• Термін: 6–12 місяців (з можливістю продовження на підтримку та масштабування)
• Success Criteria:
  • Стабільний inference з latency < 2s для типових запитів
  • RAG-Triad метрики > 0.92 (Answer Relevance, Context Relevance, Groundedness)
  • 99.9%+ uptime AI-сервісів у production кластері
  • Повна інтеграція з ERP/1 модулями «Документи», «Реєстри», «Процеси»
  • Успішне проходження внутрішнього та зовнішнього security/compliance аудиту
  • Документовані runbooks та handover внутрішній команді