À propos du projet
E2B Runtime est le backend complet qui alimente E2B Cloud : l'API du plan de contrôle, l'orchestrateur par nœud qui pilote Firecracker, l'agent qui s'exécute dans chaque VM, le routeur périphérique pour le trafic des sandboxes, et le constructeur de modèles. Il donne à chaque session d'agent sa propre machine Linux isolée qui démarre à partir d'un instantané, exécute ce que l'agent lui demande, et peut être mise en pause et reprise comme si rien ne s'était passé.
Il est écrit en Go, sous licence Apache-2.0, et construit par E2B. Le même code sert le cloud public, les déploiements d'entreprise dédiés, et les packages pour machine unique que vous pouvez exécuter sur votre propre matériel.
Deux idées guident la conception :
- Une sandbox est un instantané repris. Les modèles sont des VM pré-démarrées stockées dans un stockage d'objets. Créer une sandbox signifie restaurer un instantané plutôt que démarrer un noyau de zéro. Les pages mémoire sont servies paresseusement via userfaultfd, et le système de fichiers racine utilise une superposition copy-on-write sur une image en lecture seule.
- Le plan de contrôle et le plan de données ne se mélangent jamais. L'API décide où une sandbox s'exécute, tandis que l'orchestrateur sur chaque nœud contrôle comment elle s'exécute en utilisant Firecracker, les espaces de noms réseau, et les cgroups.
Les fonctionnalités incluent :
- Des sandboxes isolées matériellement utilisant des microVM Firecracker avec des espaces de noms réseau individuels et des pare-feu.
- Des capacités de pause et de reprise avec auto-pause en inactivité et réveil transparent sur le trafic entrant.
- La duplication de sandboxes en cours d'exécution pour créer de nouvelles instances instantanément à partir de points de contrôle.
- Des constructions de modèles en couches à partir d'images Docker avec enregistrement optimisé des touches de page.
- L'agent envd dans la VM fournissant des API de processus, PTY, système de fichiers, et redirection de ports.
- L'intégration OpenTelemetry avec des métriques exportées vers ClickHouse.
Comments
0 people shared their preference · Deer Point appears after 10 participants
Sign in to join the discussion.