Red Hat OpenShift AI

AWS Marketplaceで購入できるRed Hat AI

Red Hatの小島です。 Red Hatは生成AIモデルや予測AIモデルの学習や推論を可能にするための、統合AIプラットフォーム(Red Hat AI)を提供しています。 www.redhat.com Red Hat AIはAWS Marketplaceで購入して利用できるようになっています。この場合、Red Hat…

gpt-ossをOpenShift AIで実行する

こんにちは、レッドハットでソリューションアーキテクトをしている石川です。米国時間の8月5日にOpenAI社がgpt-ossというオープンモデルをリリースしました。OpenAIにとってChatGPTが公開されて以降では初めてとなるオープンモデルの発表となり、大きな反響…

OpenShift AIでマルチノードのLLM推論を試す

こんにちは、Red Hatでソリューションアーキテクトをしている石川です。 先日OpenShift AIのバージョン2.16がリリースされました。 現在OpenShift AIは非常にハイペースでリリースが行われており、約1ヶ月に一度のペースで機能アップデートが行われています…

Llama 3.1をOpenShift AIでホストする

こんにちは、Red Hatでソリューションアーキテクトをしている石川です。 本日Meta社が新たなオープンLLMとしてLlama 3.1を発表し、LLM界隈では大きな盛り上がりを見せています。 これまでもMeta社は独自のLLMとしてLlamaシリーズを発表してきていましたが、…

* 各記事は著者の見解によるものでありその所属組織を代表する公式なものではありません。その内容については非公式見解を含みます。