ROSA の検索結果:
…enShiftであるROSAを利用し、その環境にOpenShift AIをインストールしたのち、llm-dをデプロイします。OpenShiftクラスタの構築方法やGPU Operatorの設定についての説明は割愛するため、これらの手順については公式ドキュメントや以前のブログ記事などを参照して下さい。以降では以下の条件を満たしていることを前提に手順を記載します。 OpenShift Container Platformのバージョン4.19.9以降をインストール済みであること L…
…機能は次の通りです ROSA/AWS上におけるOpenShift Virtualizationのサポート OpenShift VirtualizationにおけるHCP構成のサポート OpenShift Virtualization上のゲストOSとしてのWindows Serverによるクラスター構成のサポート OpenShift純正の仮想マシンインポート機能の強化(他のOpenShift、OpenStack、OVA形式のインポートのサポート) developers.redh…
※本記事は OpenShift Virtualization アドベントカレンダーの 17日目の記事です。 こんにちは、Red Hat のソリューションアーキテクトの青柳萌里(Techcat)です。 最近VMware製品からOpenShift Virtualizationへ移行したいというお声をお客様からよくいただきます。 一方で2つの製品は設計思想が異なるため、少々用語が異なるのも事実。 そこで、今回はVMware管理者向けにOpenShiftの用語を解説した、下記のRed…
…e on AWS (ROSA)、Oracle Cloud Infrastructure、Azure Red Hat OpenShift (ARO) が GA、Google Cloud が Technology Preview となっており、クラウド上で OpenShift Virtualization を利用していただくことも選択可能です。 今回は、AWS をすでにご利用のお客様からのご質問の多い項目に着目し、コンピュート、ストレージ、ネットワークの 3 つの観点から AWS…
…ift AI on ROSA with Hosted Control Planeで、OpenAI社が2025年8月にリリースしたgpt-ossというオープンモデルの実行を紹介するブログがありますので、こちらを参考にしてみてください。 rheb.hatenablog.com OpenShift AIサブスクリプションにはRed Hat AI Inference ServerサブスクリプションとRHEL AIサブスクリプションが含まれているため、OpenShift AIのユーザー…
…境として、AWS上にROSA HCPクラスタを構築し、必要なOperatorのインストールを行います。クラスタの構築方法に関しては本記事の中では紹介しないため、公式ドキュメントや、こちらのブログ記事などを参照ください。 ROSAクラスタが構築できたら、MachinePoolとしてg6e.12xlargeインスタンスを追加します。このインスタンスタイプにはNVIDIA L40S GPUが4枚搭載されており、今回ホストするgpt-oss-120bに対して十分なVRAM容量を確保で…
…購入する従量課金制のROSAを利用する しかし、2025年4月1日からのAWS Marketplaceでの取引における日本の消費税の取り扱い変更や、2025年5月1日からのAWS MarketplaceにおけるSaaS出品のガイドライン変更に伴い、以下をAWS Marketplaceから購入して利用できるようになりました。 Red Hatがサポートする従量課金制のSelf-Managed OpenShiftサブスクリプション AWSだけでなく、オンプレミス(以下、オンプレと記…
…tchへのログ転送 ROSA HCPクラスターの場合の注意点 Loki + Amazon S3でのログ保存 実際にOpenShift/ROSAのOpenShift Loggingで24時間ログ保存をしてみた結果 Self-Managed Single Node OpenShift の1台構成 Self-Managed OpenShift の5台構成 (Control Plane: 3台, Compute: 2台) ROSA HCP の2台構成 (Compute: 2台) RO…
…it for deployment : ROSA上のArgoCDにログインして、syncを実行します。 以上が今回のCICDパイプラインの全貌です。 おわりに 前回と今回の記事で、簡単ですが実践的なGolden Pathの準備と実行を実現してきました。 これはコンテナ環境におけるCICDのベースとなるものになります。これから様々なJob（例えばイメージのスキャンやSBOMの作成など）を追加して、自分なりのGolden Pathにブラッシュアップしていっていただけばと思います。
…SonarqubeをROSAクラスター上にインストールして行きます。 Sonarqubeのインストール SonarqubeはGolden PathでデプロイされるCIパイプライン上でアプリケーションコードの静的解析に使用します。 SonarqubeはHelmでインストールしますが、公式のHelmチャートではOpenShiftのデフォルトのセキュリティ設定の関係でインストールすることができません。そのためGitHubのRed Hat Communities of Practic…
…できますが、せっかくROSA上で稼働しているのでIAM Role for Service Accounts (IRSA) を使ってSTS認証を行います。 IAMポリシーの作成 まず、S3バケットへのアクセスを許可するIAMポリシーを作成します。以下のファイルを作成しましょう。 techdocs-s3-policy.json { "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s…
…tops.apps.rosa.<domain>/api/v1/session \ | grep 'argocd.token' \ | sed 's/^set-cookie: \(argocd\.token=[^;]*\).*/\1/' 最後に、ArgoCDのサービスアカウントに対してさまざまなリソースをデプロイするための権限を付与します。今回はcluster-adminを付与しておきます。 oc adm policy add-cluster-role-to-user clus…
…server するとROSAの場合 https://<cluster-name>.<domain>.openshiftapps.com:443 といった形のURLが出力されるので、このURL全体とcluster-nameを保管しておきます。 Secretの設定 では最後に、Kuberentes/Topology pluginの設定をapp-configに追記したので、必要な変数をSecretに設定していきます。 以下のように secret-rhdh.yaml に情報を追記しま…
…onに含まれており、ROSA環境でも追加費用なく導入可能です。（詳細はこちら） つまりイメージはこんな感じ↓ Developer Hub GitLab 認証 実装手順 今回の手順はコミュニティ版のGitLabを前提としています。おそらくエンタープライズ版でも同様の手順で実現できます。 GitLab Application設定 まずはGitLab側の設定から始めます。 GitHubのようにGroupを作成後、Applicationを登録します。今回はrhdh-gitlab-gr…
…hdh.apps.<ROSAドメイン>" BACKEND_SECRET: "<バックエンド認証キー>" SESSION_SECRET: "<セッションシークレット>" # 任意。 node -e "console.log(require('crypto').randomBytes(64).toString('base64'))"などで取得 # GitHub Settings AUTH_GITHUB_CLIENT_ID: "<GitHub App Client ID>" AUT…
…ce on AWS(ROSA)ではセキュリティを考慮してAWS STS(Security Token Service)を利用したデプロイと運用を推奨しており、ROSA with HCPクラスターをデプロイする際は、AWS STSの利用を必須としています。本記事ではAWSユーザーから聞かれることの多いAmazon EFSとAmazon ECRについて、専用のOperatorからAWS STSの認証情報で利用する方法の概要をご紹介します。なお、ROSA環境からAWS STSを利用…
…載を参照して下さい。ROSA HCP環境を利用する場合は、必要な権限が付与されたIAMロールの作成とARNの設定が求めらるため、適宜設定を行って下さい。 これでマルチノード推論を行うのに必要な準備が整いました。 利用対象のLLM 今回利用するのは先日Meta社より発表されたLlama3.3です。 Meta公式のXのポストによると、モデルのアラインメントチューニングの改善、オンライン強化学習の適用により、70Bというモデルサイズでありながら、Llama3.1の405B相当の性能…
…rvice となる ROSA with HCP ではなく、Self-Managed の OCP クラスタに HCP をデプロイするパターンを紹介しています。 HCP については用語が多く、その中に同義語も複数あり、ドキュメントにも完全には統一されていないため、こちらの記事に使用される主な2つの用語を説明します： Hosted Cluster: API エンドポイントとコントロールプレーンが Hosting Cluster でホストされている OpenShift Contain…
…ft on AWS(ROSA): 4.20.10 Cluster API Endpoint: Public GitHub github.com アカウント1つ 作業端末 Macbook oc : 4.20.11 user-role: cluster-admin Developer Hub インストール手順 Operatorのインストール まずはOperatorをインストールしていきます。ここは全部デフォルトのままでOKです。 Developer Hubのデプロイ Operat…
…e on AWS (ROSA) では、ROSA with Hosted Control Plane (以下、ROSA HCP) 上でのOpenShift Virtualizationを利用した仮想化環境の実行を、ROSA HCP ver.4.16からサポートするようになりました。ROSAでのOpenShift Virtualizationを利用すると、ユーザーは次のようなメリットを享受できるようになります。 移行ツールを利用した、既存VMware環境上の仮想マシンのAWSへの…
…Shift環境としてROSA HCPを利用します。主題から外れるため構築方法は割愛とさせて頂きますが、弊社メンバーのブログ記事などを参照頂くと簡単に構築できると思います。 Worker NodeとしてAWSの下記のインスタンスタイプを準備し、検証を行いました。 ややオーバースペック気味なので、実際にはもう少し小さいインスタンスタイプでも十分だと思います。 ・m5.4xlarge(16vCPU,64GiB Memory) * 3 ・g5.4xlarge(16vCPU,64GiB…
…ドサービスを提供するROSAとAROについては、無償オプションとは別に、従量課金形式で気軽でクイックに試せますので、そのご案内もこのトライアルセンターにあります。 セルフサービスでトライアルを申請してみる 試しに、Red Hat Enterprise Linuxのトライアルを申請してみます。"Red Hat Enterprise Linux" タブをクリックしたら表示される、"Red Hat Enterprise Linux" の"試用する"ボタンを押してみます。 すると、以…
Red Hatの小島です。 OpenShift Container Platform(以下、OpenShiftと記述)にはアプリケーションの開発支援機能が備わっており、Gitリポジトリにあるアプリケーションのソースコードをもとに、OpenShiftでのコンテナアプリケーションのビルドとデプロイ、および外部公開用のURL作成を自動化することができます。そうした機能の具体的な利用例を記載したワークショップコンテンツがありますので、本記事ではそれらのコンテンツをご紹介していきます。…
…e on AWS (ROSA)では、Hosted clusterとしてOpenShiftクラスターをデプロイすることが可能になっています(現時点ではリージョンによってはまだ使用できませんが)。ROSAのHosted Control Planeでは、Management clusterはRed Hat SREが管理するので、control planeのコンポーネントがスリム化するのはとてもうれしいのでした。 ROSA with HCPについては、こちらの記事をご参照ください。 …
…サービスの1つであるROSAを無料で試せるROSA Hands-on Experienceというサービスがリリースされました。本記事では、同時期に提供開始しましたROSA Hosted Control Plane (HCP)の特徴と共に、ROSA Hands-on Experienceの概要をご紹介します。 ROSA Hosted Control Plane (HCP) ROSA HCPの料金情報 ROSA Hands-on Experience ROSA HCPワークショッ…
…e on AWS (ROSA)やAzure Red Hat OpenShift (ARO)などがありますが、ユーザーが管理するSelf-Managed OpenShiftもあります。ここでは、このSelf-Managed OpenShiftについて、AWS/Azure/GCP Marketplaceでの利用時のポイントをご紹介します。 提供状況 2023年10月時点では、日本のお客様には、AWS/Azure MarketplaceでのSelf-Managed OpenShif…
…enShiftであるROSAや、OpenShift Dedicatedにアドオンとしてインストールできるサービスとなっています。 ただし、現在（2023年2月）日本ではAWS Marketplace上でRHODSの購入がサポートされておらず使いたいけど使えないという状態となってしまっていました。 しかしながら実は先月にRHODSのもう一つの提供オプションであるSelf-managed版がGAとなりました。 提供される機能としてはManaged版と同じものが利用可能1ですが、イ…
…e on AWS (ROSA)や、Azure Red Hat OpenShift(ARO)があります。 www.redhat.com ROSAやAROといったManaged OpenShiftサービスには利用者との責任分担マトリクスが定義されており、利用者は主に次の項目の管理を担当します。 ユーザー管理 (外部の認証プロバイダとの連携設定) ユーザーアプリケーションの開発/運用/ロギング/データ管理 クラウド環境のストレージ/ネットワークを利用するための設定 OpenShif…
…マネージドサービス。ROSA (AWSのOpenShiftマネージドサービス) や ARO (AzureのOpenShiftマネージドサービス) 等があります。OpenShiftを動かす基盤の運用管理は基本的にRed Hat SREが行います。 セルフマネージド: 利用者が自身で構築・運用する形態 セルフマネージドな使い方の場合、IPI, UPIの2種類のインストール方法があります。 IPI (Installer Provisioned Infrastructure): Op…
…OpenShiftのROSAなどではデフォルトでこの機能が有効化されており、自動で計算された値がsystem-reservedに設定されています。 この時の計算方法は以下のナレッジベースに記載があるため、気になる方はご確認下さい。 access.redhat.com ここからは実際の設定値を確認していきましょう。今回はsystem-reservedの自動計算がオンになっている環境を使っています。 まずoc proxyコマンドを実行しておきます。 oc proxy そうしたら別…
