Der folgende Text ist Zuckerbergs offener Brief, übersetzt von "AI Emergence":
"Open Source KI ist der Weg in die Zukunft"
In den Anfängen des Hochleistungsrechnens investierten alle großen Technologieunternehmen der damaligen Zeit stark in die Entwicklung ihrer eigenen geschlossenen Unix-Versionen. Damals war es schwer vorstellbar, eine so fortschrittliche Software auf andere Weise zu entwickeln.
Dennoch wurde das Open-Source-Linux schließlich populär - zunächst, weil es Entwicklern erlaubte, den Code nach ihren Wünschen zu modifizieren und es günstiger war; mit der Zeit wurde es fortschrittlicher, sicherer und hatte ein viel breiteres Ökosystem, das mehr Funktionen unterstützte als jedes geschlossene Unix. Heute ist Linux die Industriestandard-Grundlage für Cloud-Computing und die Betriebssysteme, die die meisten mobilen Geräte betreiben - wir alle profitieren von seinen überlegenen Produkten.
Ich glaube, dass sich künstliche Intelligenz auf ähnliche Weise entwickeln wird. Heute entwickeln einige wenige Technologieunternehmen führende geschlossene Modelle. Aber Open Source schließt diese Lücke rasch. Letztes Jahr konnte Llama 2 nur mit älteren Modellen konkurrieren, die hinter der Spitze zurückblieben. Dieses Jahr konkurriert Llama 3 mit modernsten Modellen und führt in einigen Bereichen. Ab nächstem Jahr erwarten wir, dass zukünftige Llamas die fortschrittlichsten in der Branche sein werden. Aber schon vorher führt Llama bereits in Bezug auf Offenheit, Modifizierbarkeit und Kosteneffizienz.
Heute gehen wir den nächsten Schritt, um Open-Source-KI zum Industriestandard zu machen. Wir veröffentlichen Llama 3.1 405B - das erste Open-Source-KI-Modell auf branchenführendem Niveau - zusammen mit neuen und verbesserten Llama 3.1 70B und 8B Modellen. Zusätzlich zu einem besseren Kosten-Leistungs-Verhältnis im Vergleich zu geschlossenen Modellen wird die Tatsache, dass das 405B-Modell Open Source ist, es zur besten Wahl für Feinabstimmung und Extraktion kleinerer Modelle machen.
Neben der Veröffentlichung dieser Modelle arbeiten wir mit einer Reihe von Unternehmen zusammen, um ein breiteres Ökosystem zu entwickeln. Amazon, Databricks und Nvidia starten umfassende Dienstleistungspakete, um Entwickler bei der Feinabstimmung und Verfeinerung ihrer eigenen Modelle zu unterstützen. Innovative Unternehmen wie Groq (ein KI-Chip-Startup) haben latenzarme, kostengünstige Inferenzdienste für alle neuen Modelle entwickelt.
Diese Modelle werden auf allen großen Clouds verfügbar sein, einschließlich AWS, Azure, Google, Oracle und mehr. Scale.AI, Dell, Deloitte und andere sind bereit, Unternehmen bei der Implementierung von Llama zu unterstützen und benutzerdefinierte Modelle mit ihren eigenen Daten zu trainieren. Wenn die Community wächst und mehr Unternehmen neue Dienste entwickeln, können wir gemeinsam Llama zum Industriestandard machen und die Vorteile der KI allen zugänglich machen.
Meta ist der Open-Source-KI verpflichtet. Ich werde erläutern, warum ich glaube, dass Open Source der beste Entwicklungsstack für Menschen ist, warum die Open-Source-Veröffentlichung von Llama gut für Meta ist, warum Open-Source-KI gut für die Welt ist und warum die Open-Source-Community deshalb langfristig bestehen wird.
Warum Open-Source-KI gut für Entwickler ist
Wenn ich mit Entwicklern, CEOs und Regierungsvertretern auf der ganzen Welt spreche, höre ich in der Regel folgende Themen:
Wir müssen unsere eigenen Modelle trainieren, feinabstimmen und verfeinern.
Jede Organisation hat unterschiedliche Bedürfnisse, und verschiedene Modellgrößen können diese Bedürfnisse am besten erfüllen, trainiert oder feinabgestimmt mit spezifischen Daten. Aufgaben auf dem Gerät und Klassifizierungsaufgaben erfordern kleinere Modelle, während komplexere Aufgaben größere Modelle benötigen.
Jetzt können Sie modernste Llama-Modelle verwenden, sie mit Ihren eigenen Daten weiter trainieren und dann auf Ihre optimale Modellgröße verfeinern - ohne dass wir oder jemand anderes Ihre Daten sieht.
Wir müssen unser eigenes Schicksal kontrollieren und nicht an einen geschlossenen Anbieter gebunden sein.
Viele Organisationen wollen sich nicht auf Modelle verlassen, die sie nicht ausführen und kontrollieren können. Sie wollen nicht, dass geschlossene Modellanbieter ihre Modelle ändern, ihre Nutzungsbedingungen ändern oder sogar ganz aufhören, sie zu bedienen. Sie wollen auch nicht an eine einzelne Cloud gebunden sein, die exklusive Rechte an einem bestimmten Modell hat. Open Source bietet ein Ökosystem von Tools, die mit vielen Unternehmen kompatibel sind, zwischen denen Sie leicht wechseln können.
Wir müssen unsere Daten schützen.
Viele Organisationen arbeiten mit sensiblen Daten, die geschützt werden müssen und nicht über Cloud-APIs an geschlossene Modelle übertragen werden können. Andere Organisationen vertrauen geschlossenen Modellanbietern einfach nicht mit ihren Daten. Open Source löst diese Probleme, indem es Ihnen erlaubt, Modelle überall dort auszuführen, wo Sie möchten. Es ist weithin akzeptiert, dass Open-Source-Software sicherer ist, weil die Entwicklung transparenter ist.
Wir brauchen ein effizientes und erschwingliches Betriebsmodell.
Entwickler können Inferenzen auf Llama 3.1 405B auf ihrer eigenen Infrastruktur zu etwa 50% der Kosten durchführen, die bei der Verwendung geschlossener Modelle wie GPT-4o für benutzergerichtete und Offline-Inferenzaufgaben anfallen würden.
Wir setzen auf ein Ökosystem, das zu einem langfristigen Standard werden kann.
Viele Menschen sehen, dass sich Open Source schneller entwickelt als geschlossene Modelle, und sie wollen die Architektur ihrer Systeme so aufbauen, dass sie ihnen den größten langfristigen Vorteil bietet.
Warum Open-Source-KI gut für Meta ist
Metas Geschäftsmodell besteht darin, die besten Erfahrungen und Dienste für Menschen zu entwickeln. Um dies zu tun, müssen wir sicherstellen, dass wir immer Zugang zur besten Technologie haben, anstatt in geschlossene Ökosysteme von Konkurrenten eingesperrt zu sein, die begrenzen würden, was wir bauen können.
Eine meiner prägenden Erfahrungen ist, wie unsere Dienste durch das eingeschränkt werden, was Apple uns auf ihrer Plattform zu bauen erlaubt. Die Art und Weise, wie sie Entwickler besteuern, die willkürlichen Regeln, die sie anwenden, und all die Produktinnovationen, die sie blockieren, machen deutlich, dass Meta und viele andere Unternehmen bessere Dienste für Menschen bauen könnten, wenn wir die besten Versionen unserer Produkte bauen könnten, ohne dass Konkurrenten einschränken können, was wir bauen können.
Philosophisch gesehen ist dies der Hauptgrund, warum ich so fest daran glaube, offene Ökosysteme für die nächste Generation des Computings in KI und AR/VR aufzubauen.
Oft werde ich gefragt, ob ich mir Sorgen mache, technologische Vorteile aufzugeben, indem ich Llama als Open Source veröffentliche, aber ich denke, das ignoriert einige wichtige Gründe:
Erstens muss sich Llama zu einem vollständigen Ökosystem entwickeln, einschließlich Tools, Effizienzverbesserungen, Siliziumoptimierungen und anderen Integrationen, um sicherzustellen, dass wir langfristig auf die beste Technologie zugreifen können, anstatt in ein geschlossenes Ökosystem eingesperrt zu sein. Wenn wir das einzige Unternehmen wären, das Llama nutzt, würde sich dieses Ökosystem nicht entwickeln und wir wären nicht besser dran als geschlossene Unix-Varianten.
Zweitens erwarte ich, dass sich der Wettbewerb mit wachsender Intelligenz intensivieren wird, was bedeutet, dass zu diesem Zeitpunkt die Open-Source-Veröffentlichung eines bestimmten Modells keinen Vorteil gegenüber dem nächsten Modell mit größeren Vorteilen aufgeben wird. Der Weg für Llama, zum Industriestandard zu werden, führt über konsequenten Wettbewerb, Effizienz und Open-Source-Veröffentlichung Generation für Generation von Modellen.
Drittens besteht ein wesentlicher Unterschied zwischen Meta und geschlossenen Modellanbietern darin, dass