BonzAI

AI op plekken waar grotere modellen niet passen

Niet iedere toepassing heeft een grote AI of een krachtige server nodig. Soms wilt u AI juist lokaal gebruiken, op een apparaat met beperkte rekenkracht, of in een omgeving waar een internetverbinding niet beschikbaar of niet wenselijk is.

In zulke situaties is het belangrijk dat AI niet alleen goed werkt, maar ook past bij de beschikbare hardware, het energieverbruik en de eisen aan uw omgeving. BonzAI is ontwikkeld om AI toegankelijk te maken op systemen waar grotere modellen niet praktisch of wenselijk zijn.

Krachtige AI met beperkte hardware

BonzAI is onze compacte en energiezuinige vorm van AI. Het is ontworpen voor gebruik op het apparaat zelf (on-device) of op een lichte server. Ook inzet binnen een virtuele machine (VM) is mogelijk.

Daarvoor is geen speciale AI-hardware nodig: BonzAI kan werken met alleen een processor (CPU), zonder dat een grafische processor (GPU) of een Neural Processing Unit (NPU) vereist is. Dat maakt het geschikt voor omgevingen waar de beschikbare rekenkracht beperkt is of het energieverbruik laag moet blijven.

In tegenstelling tot SakurAI, dat een krachtigere AI-basis kan bieden, is BonzAI bewust ontworpen met beperkte hardwarecapaciteit als uitgangspunt. Welke oplossing het beste past, hangt af van wat u met AI wilt bereiken en waar deze moet functioneren.

Waar kunt u BonzAI voor inzetten?

Doordat BonzAI compact is en lokaal kan functioneren, zijn er verschillende toepassingsmogelijkheden. Denk bijvoorbeeld aan:

• Mobiele apparaten: AI gebruiken op smartphones en tablets van medewerkers, ook wanneer een internetverbinding niet beschikbaar of niet gewenst is.
• Verspreide systemen: meerdere lichte servers inzetten die elk zelfstandig gebruikers bedienen, of samenwerken wanneer de toepassing daarom vraagt.
• Virtuele omgevingen: AI laten functioneren binnen een hypervisor of een omgeving met een of meerdere virtuele machines.
• Compacte hardware: AI toepassen op kleine systemen, zoals computers op basis van Raspberry Pi-hardware.
• Industriële omgevingen: AI inzetten op geschikte embedded systemen, waaronder toepassingen met beperkte of volledig afgesloten netwerkverbindingen.

Welke toepassingen haalbaar zijn, hangt onder meer af van de gewenste functionaliteit, de beschikbare hardware en de eisen aan snelheid en betrouwbaarheid. BonzAI biedt een basis om AI ook in zulke omstandigheden in te zetten.

Compact waar het kan, krachtiger waar het nodig is

Een compacte AI hoeft niet altijd alles zelfstandig uit te voeren. Soms is lokale verwerking voldoende, terwijl andere vragen juist meer rekenkracht vragen. Daarom kan BonzAI worden gecombineerd met een SakurAI-backbone: een krachtigere AI-basis die BonzAI kan ondersteunen wanneer aanvullende capaciteit nodig is.

Die ondersteuning kan bijvoorbeeld afkomstig zijn van een centrale server binnen uw bedrijfsnetwerk. Ook is een opstelling mogelijk waarin meerdere BonzAI-instanties samenwerken met één gedeelde SakurAI-instantie. Zo kan AI lokaal beschikbaar blijven, terwijl er waar nodig extra mogelijkheden beschikbaar zijn.

Is de ondersteunende backbone tijdelijk niet beschikbaar, dan is BonzAI ontworpen om terug te vallen op zijn eigen mogelijkheden. Welke functies beschikbaar blijven, is afhankelijk van de toepassing en de gekozen inrichting.

Welke vorm van AI past bij uw situatie?

De keuze voor AI begint niet bij het model, maar bij wat u ermee wilt bereiken. Moet AI lokaal functioneren? Is de beschikbare hardware beperkt? Zijn privacy, netwerkbeperkingen of energieverbruik belangrijke factoren? Of is juist extra rekenkracht nodig?

De antwoorden op zulke vragen bepalen welke vorm van AI passend is en hoe deze het beste kan worden ingezet. BonzAI kan daarin een rol spelen, zelfstandig of in combinatie met SakurAI.

U hoeft daarvoor niet eerst alle technische mogelijkheden te kennen. Leg ons uw AI-vraagstuk voor. We helpen u bepalen welke aanpak bij uw situatie past en of BonzAI, SakurAI of een combinatie van beide de juiste richting is.

Verken welke vorm van AI bij uw situatie past »