InstructLab

It’s day 2️⃣ at #DevConf_CZ where we’ve been talking all things open source, now at the conference evening social (with beautiful weather) to recap a big day! Today’s keynote was on Bootable Containers with @podmanio.bsky.social, plus our @instructlab.bsky.social workshop, and so much more 🥳

An image promoting the event with the following details: AI Plumbers Conference 2nd edition 15th June, Berlin, GLC Campus Marta Blaszczyk and Karsten Gresch, Red Hat (with their profile pics) "From laptop to production: building and scaling LLM-enabled apps with open source tools" On the side are logos of sponsors/partners including Red Hat, Hugging Face, Berlin Buzzwords, and AI Foundry.

Join us at AI Plumbers Conference on June 15 in Berlin!

From Red Hat, Marta and Karsten will present how to go from a notebook sketch to a production-ready LLM app using #opensource tools like Podman AI Lab and #InstructLab

Details and registration: lu.ma/vqx423ct

Docling Community Exchange , Tue, May 20, 2025, 6:00 PM | Meetup Join us for an in person, interactive evening with refreshments, where you’ll have the opportunity to connect directly with the creators of **Docling** through collaborativ

Check out the #Docling Meetup during the week of #RHSummit in #Boston - a great chance for the community to connect with Docling experts and dive into the latest innovations!

Tuesday, May 20, 2025
6:00 to 8:00 PM EDT

Details & RSVP: ibm.biz/DoclingCommu...

#opensource #redhat #ibm #genAI

[Public] Easier & cost-effective model customization with InstructLab Plug your knowledge into a model easily with InstructLab MLPrague: 2025 Tomas Tomecek Senior Principal Software Engineer @TomasTomecek Karel Piwko Senior Principal Software Engineer @karel.piwko Cedri...

Making LLM fine-tuning accessible with InstructLab: 🖼️ Slides: red.ht/instructlab-slides

📅 Starting next week:

Deep dive into Kubernetes resource management https://ku.bz/6Nw8j3m6y

From Your Local Machine to Kubernetes: Building AI Apps with Quarkus, InstructLab, and Podman AI Lab https://ku.bz/lspl1875L

【第2回】InstructLabを試すための環境構築手順（Docker編）｜quoota 🔰概要 InstructLabは、大規模言語モデル（LLM）に新しい知識やスキルを学習させるためのフレームワークです。 GPT-4などの高価なモデルを使わずに、独自のタクソノミー構造と合成データ生成により、安価かつ柔軟にモデルを微調整できるのが特徴です。 本記事では、InstructLabを実際に動かすためのDocker環境構築手順を紹介します。 🎯 目的（執筆の背景） Instruc...

note.com/qoota5278/n/...

Instructlabの試してみたい方に向けて書きました。

#Instructlab

This week at #MLPrague I had the opportunity to join some fellow Red Hat rockstars and deliver a 3-hour presentation on infusing your data into a model, with a deep dive on @instructlab.bsky.social, #Docling, #vLLM and beyond for production-ready AI systems for the enterprise!

Check out the AI track sessions on #RHSummit Community Day! events.experiences.redhat.com/widget/redha...

We have topics ranging from #Docling to #TrustyAI, inferencing to features stores, topped with your favourite #InstructLab tools & #Granite models. Register & add the sessions to your schedule!

We'll be at #fossnorth in #Gothenburg next week, April 14-15! Learn about #InstructLab in the hands-on workshop on day 1 with @cybette.bsky.social

foss-north.se/2025/schedul...

foss-north 2025
🗓️ April 14-15, 2025
📍Gothenburg, Sweden
foss-north.se/2025/

AI_dev Europe 2024からIBMとRed HatによるInstructLabのセッションを紹介 | Think IT（シンクイット） AI_dev Europe 2024から、IBMとRed Hatが一緒にプレゼンテーションを行ったInstructLabを解説するセッションを紹介する。このカンファレンスでは生成型AIのモデルがどれくらいオープンなのかを評価するModel Openness Framework（MOF）の発表が初日のキーノートで行われ、他にもオープンソースなAIモデルとクローズドなモデルを解説するセッションなども行われているように、The Linux FoundationとしてはオープンソースによるAI開発が業界にとっても社会にとっても最良の選択だと訴求したいという意図を感じる内容となっている。 何よりもオープンソースで最もビジネスとして成功しているRed Hatが、IBMの協力を得て土台となる基礎のモデルであるGraniteを公開したことで、Red HatそしてIBMはオープンソースによる生成型AI開発をリードしたい、賛同者を増やしたいことは明確だろう。 このセッションは2024年5月にデンバーで開催されたRed Hat Summitでのセッションをおさらいするような内容となっているが、その後のフィードバックを得て、より具体的な解説となっていることに注目したい。Red Hat Summitに関しては以下の記事一覧を参照して欲しい。このカンファレンスでRed Hatは、IBMの持つリソースをフル活用してオープンソースによる生成型AIの未来に賭けている姿勢が見て取れる。 ●参考：Red Hat Summit 2024レポート 記事一覧 今回のセッションはIBMのMark Sturdevant氏とRed HatのCarol Chen氏によって行われたが、特に分担を分けずに交互にInstructLabを解説しているのが興味深いところだろう。実際の開発でも、IBMとRed Hatが役割を分担せずに共同作業を行っている印象を受ける。ちなみにSturdevant氏はIBM Researchでオープンソースに関わって約10年の経験を持つベテランで、InstructLabではCLIのメンテナーでもあると紹介された。一方のChen氏は、かつてはエキスパートシステムに関わっていたことはあるが、生成型AIについては経験が浅く、このカンファレンスの2か月前にInstructLabの仕事に異動してきたと説明し、学ぶことが一杯あると話していた。 セッションを行うChen氏（左）とSturdevant氏（右） セッションのタイトルは「Applying Open Source Methods to Building and Training Large Language Models」、オープンソースによるソフトウェア開発の仕組みを大規模言語モデルに適用するInstructLabの背景と効果を解説する内容となっている。 ●動画：Applying Open Source Methods to Building and Training Large Language Models まずはLLMが発表されてから無数のクローン化されたモデルが市場に溢れていることを説明。ここではStar Warsのエピソード2のタイトル、「Attack of the Clones」をもじって「Attack of LLM Clones」という状態にあるとジョークを交えて解説を行った。 つまり各ベンダーや研究組織がゼロからベースとなるLLMの基礎モデルを作るのではなく、Llamaなどのモデルをベースにしてその上からデータを追加することで特定分野の知識を構成する方法論が現在の状態であることを説明した。 Foundation Model-Centric Applicationsというスライドでモデルの作られ方を説明 このスライドでは公開されたモデルに業界や企業に特化したデータを追加することで必要に応じたモデルを生成することが一般的であると説明している。ただしその結果として、オープンソースコミュニティで実現しているコミュニティがモデルの改善に協力するということができなくなっていることを説明したのが次のスライドだ。 成功しているOSSの特徴がLLMの開発に活かせない現状 ここではコミュニティによって統率された定期的なリリースや公開されたAPI、未来のロードマップの公開、コミュニティからの貢献、誰もが参加できるといったOSSの特徴がLLMの開発においては実現できていないことを、例を挙げて説明している。結果として、Llamaに対して貢献しようとしても大量のクローン化され少しずつ異なるLlamaモデルが発生しているため、困難であると語った。 Llamaの派生モデルが大量に発生して乱立している状態 そしてRed Hatの経験則から言えば、オープンソースのコミュニティによる開発こそがあるべき姿であることを説明。 実験～貢献～トレーニングとマージ～定期的なリリースというサイクルを回すことがあるべき姿 ここでは実験～貢献～トレーニングと、マージ～定期的なリリースというサイクルをクローズドな方法ではなくコミュニティが参加することで実行していくことが必要だと説明した。 そのサイクルを回すための方法がLarge-scale Alignment for ChatBotメソドロジー LLMに対する更新をそのサイクルを回すための方法がInstructLabで採用され、名称の一部にもなっているLAB（Large-scale Alignment for ChatBot）メソドロジーであると紹介。ここでは分類学に従ったデータの収集、大規模なデータ合成、フェーズごとに分かれたチューニングの3つのステップが解説されている。ここで注目したいのは、ナレッジとスキルという2つの分類によるチューニングという部分だ。 より詳しい説明を次のスライドでも行っているが、ここでもナレッジとスキルという分類でデータを収集することが記載されている。 前のスライドをより詳細に解説。ここでもナレッジとスキルが出てくる そしてそのナレッジとスキルを使ってモデルを更新することがInstructLabの要点であると説明。 ナレッジとスキルを使ってモデルを更新するのがInstructLabの要点 それに関しては例を使って説明している。 ナレッジとスキルのサンプル ここでは「チキンパルメザンを作るための簡単なレシピを作れ」という例が一番わかりやすいだろう。レシピを作るためにはナレッジとして「チキンパルメザンとは何か？」「必要な材料や調味料は何か？」「簡単なレシピとは何か？」が必要である。一方スキルとしては「結果をレシピとして使えるためにどんなスタイルで書き出すべきか？」を持っておく必要があり、その二つを組み合わせた結果としてレシピが生成されることになる。普通に料理ができる人間が持っている技能をナレッジとスキルという2つに分割してシステムに教え込もうというのが、分類学的なアプローチということになるのだろう。 スキルの入力例を紹介 ここからはどういうデータをどのような形式で入力するのかを、CLIの画面を見せながら説明した。ここでは犬の運動量についてアフガンハウンド、ラブラドール、コッカースパニエル、プードルの例を出して、その中から最も運動量の多い種別を選べという質問に答えることでスキルを追加できると説明している。 ナレッジの入力例 ここでは2024年のオスカー賞の結果について質問を行うことで事実（ナレッジ）を教えるという内容になっている。どちらの入力にはその情報のソースとなるリンクを追加できるようになっている。この質問と回答はGitのプルリクエストの形で承認待ちとなり、承認を得ないとモデルには反映されない。 InstructLabのワークフロー そして追加されたナレッジとスキルはマークダウン形式のデータとしてCLIを通じてプルリクエストの形でモデルに対するファインチューニングとして使われ、結果としてクローンではなく新しいバージョンのモデルとして更新されると解説した。 InstructLabのCLIの流れ そしてInstructLabで使われるCLIのワークフローを説明した。「ilab init」「ilab download」「ilab serve」「ilab chat」などの具体的なコマンドが列挙され、すでに稼働していることが示されている。実際にRed Hat Summitの会場ではInstructLab専用のハンズオンスペースが設けられており、参加者が実際にプルリクエストを行うまでを体験することが可能になっていた。

AI_dev Europe 2024からIBMとRed HatによるInstructLabのセッションを紹介 | Think IT（シンクイット）

https://www.walknews.com/848472/

AI_dev Europe 2024から、IBMとRed Hatが一緒にプレゼンテーションを行ったInstructLabを解説するセッションを紹介する。このカンファレンスでは生成型AIのモデルがどれくらいオープンなのかを評価するModel Openness …

Discover how to make LLM fine-tuning accessible with InstructLab. Join Legare Kerrison and @cedricclyburn.bsky.social for a live demo and learn how to refine models for specific use cases at any skill level.

For full details visit buff.ly/NPZg1hh

A screenshot of the instructlab.ai webpage, with the InstructLab logo, description "A new community-based approach to build truly open-source LLMs", and links to various resources

Join IBM Cloud Paris meetup for a "Deep dive InstructLab" with M'hamed Benabid, on April 9, 2025. Details and RSVP: www.meetup.com/ibm-cloud-pa...

#watsonx #instructlab

👀 Keep an eye out on the Red Hat channels for some new developer content! We just wrapped up my first studio session explaining fundamental AI concepts and covering open source projects (shoutout @podmanio.bsky.social, @instructlab.bsky.social , vLLM + more)

Synthetic data: A secret ingredient for better language models It's increasingly clear that the quality of a large language model (LLM) is hugely dependent on the quality of the data used during training.

Learn about Synthetic data: a secret ingredient for better language models - and the approach #InstructLab takes, with @cedricclyburn.bsky.social and @cybette.bsky.social

www.redhat.com/en/blog/synt...

Red Hat AI InstructLab on IBM Cloud wins 2025 iF DESIGN AWARD Red Hat AI InstructLab on IBM Cloud democratizes AI, leveraging the power of design to turn complexity into simplicity. The iF Final Jury…

New Post from IBM Design: https://medium.com/design-ibm/red-hat-ai-instructlab-on-ibm-cloud-wins-2025-if-design-award-424953da4c92?source=rss----9d530348b622---4

instructlab.ai Uses Synthetic Data to Reduce Complexity of Fine-Tuning LLMs InstructLab.ai implements the large-scale alignment for the chatbots concept(LAB), which intends to overcome the scalability challenges in the instruction-tuning phase of a large language model (LLM)....

Hear from @olimpiupop.bsky.social at @infoq.com on how #InstructLab uses synthetic data to reduce complexity of fine-tuning LLMs: www.infoq.com/news/2025/03...

Why Red Hat Thinks AI’s Future Is Small Language Models Developers long ago realized monolithic applications aren’t ideal — Red Hat contends developers need to apply that learning to GenAI.

Check out why #RedHat thinks AI's future is Small Language Models, and the role #InstructLab plays - in this article by @lorainelawson.bsky.social at @thenewstack.io: thenewstack.io/why-red-hat-...

Releases · instructlab/instructlab InstructLab Core package. Use this to chat with a model and execute the InstructLab workflow to train a model using custom taxonomy data. - instructlab/instructlab

** #InstructLab Core v0.24.z and v0.23.z minor releases **

A couple of minor releases for Core:
- fix batch sizing for SDG (0.24.2 & 0.23.3)
- fix a missing python package dependency, and error-handling for "ilab taxonomy diff" (0.24.3 & 0.23.4)

Changelogs: github.com/instructlab/...

🚨 SPONSOR SHOUTOUT 🚨

We're happy to announce that InstructLab is a Gold Sponsor for DevOpsDays Austin 2025! They're redefining model training and usage with their open source LLM alignment tuning project! Find more info at buff.ly/3LrNJBN!

A screenshot of the instructlab.ai webpage, with the InstructLab logo, description "A new community-based approach to build truly open-source LLMs", and links to various resources

Join IBM Cloud Paris meetup for a "Deep dive InstructLab" with M'hamed Benabid, on April 9, 2025. Details and RSVP: www.meetup.com/ibm-cloud-pa...

#watsonx #instructlab

We’re out and about at @devnexus.bsky.social in Atlanta today sharing the good word about #OpenSource and AI Model Customization with @instructlab.bsky.social! Come by for some awesome USB Keychain bottle openers :)

YouTube video by All Things Open Applying Open Source Methods to Building and Training Large Language Models - Carol Chen & JJ Asghar

ICYMI: Here's @jjasghar.bsky.social and @cybette.bsky.social with "Applying #OpenSource Methods to Building and Training Large Language Models" at @allthingsopen.bsky.social 2024 in Raleigh, check it out - www.youtube.com/watch?v=UK0Z...

#allthingsopen #instructlab

How to Install #Instructlab + #VLLM with #Nvidia #Cuda Support on Ubuntu 22.04

11 Red Hat AI videos you may have missed It feels like 2024 was the Year of artificial intelligence (AI), quickly going from being an interesting experiment to seemingly the only thing anyone was talking about.

AI moved fast in 2024—did you keep up? Red Hat’s got you covered with 11 quick-hit videos on open source AI, InstructLab, LLM selection, and more. Grab a coffee, hit play, and stay in the know bit.ly/3Cy61jW #RedHatAccelerators

I had the pleasure of chatting with @katherined.bsky.social, host of the #OpenatIntel podcast, at @allthingsopen.bsky.social last fall:

"Democratizing AI: Collaborative AI Development with #InstructLab"

openatintel.podbean.com/e/democratiz...

SOOCON day one party

@openuk.bsky.social Thank you for #SOOCon25 what a blast! From AI, #OpenData @odihq.bsky.social and green web through #OpenSource government strategy based on transparency, to learning about new projects like InstructLab. Very grateful to all the volunteers who made it possible! #StateOfOpenCon

We’re super excited to welcome @instructlab.bsky.social by Red Hat as a Grand Supporter for Arc of AI 2025 @arcofai.bsky.social i

We convey our sincere thanks for the support and participation at the upcoming conference.

www.arcofai.com/supporters

YouTube video by IBM Technology How open source can democratize AI

Bring on "boring AI."

And the use of it for self-hosted models fine-tuned on your data.

Máirín Duffy chats #InstructLab with Malcolm Gladwell for Smart Talks with #IBM

youtu.be/SkXgG6ksKTA?...

Red Hat's take on open-source AI: Pragmatism over utopian dreams The Linux giant envisions AI development that mirrors open-source software's collaborative ethos. That won't be easy.

🚀 #RedHat is keeping it real with open-source AI! Instead of chasing AGI dreams, they’re focused on practical, collaborative solutions like Granite LLMs and InstructLab. 🌟 Transparency, flexibility, and community-driven innovation are the future.

Dive in: www.zdnet.com/article/red-... 💡