chaperone

御アクセス頂き誠にありがとうございます。

当サイトは個人の備忘録として存在しております。

そのため、内容は極めて個人的な域をでず、故、内容には一切の責任を持てない事を重々ご了承のほど願います。

然るに、其の採用・参考は自己責任にてお願い申し上げます。内容が古い、間違っている、読みにくい、

誤字脱字、不明瞭、意味不明、駄文とのご感想の際には謹んで深くお詫び申し上げます。

国語の学が弱い若輩故、文書きに長けておりませぬ故、深く恐縮申し上げます。

気が向くままに描いた記事たち。小さく隅に置かれる記事でございますが、いつかは完成させたく存じます。

問い合わせ先：info_at_sysosa.jp *_at_を＠にして下さい
ミラーサイト: http://chaperone.sakura.ne.jp/w/

• R4(2022).9.20
  ubuntu20.04で作ったrelion-4.0-beta-2が、mpiによるauto-refine計算の途中でこけた(relion_refine_mpi).
  mpiを使わないthreads計算な relion_refine なら完遂したけど...仕方ないのでopenmpi-4.1.4をコンパイルして
  これと絡めてrelionをリコンパイルした. 結果mpi計算でも完遂できた. 原因？....わからん
• R4(2022).9.18
  メインのPCにモニターを追加してみた. 画面を左右で使えて手狭だった環境から抜け出したみたい.
  っが、マウスポインターの場所を探してしまう.. 32inchが２枚. 目がますます悪くなりそう..
• R4(2022).9.14
  回線が細いためか bioconda が入らない...
  windows10のWSL2でcryoSPARCを稼働させてみた. そしてこのwindows10以外からのアクセスも許可できるようにしてみた.
  ただ、、scratchとか考えると単体の方がいいのかも. まぁー軽く動かしたいならいいのかも.
• R4(2022).9.7
  openpbsでhookを有効にするとsingularityが動かなかったが、pbs_cgroups.jsonを修正して回避できたOpenPBS/GPU
• R4(2022).9.6
  ....小休止
• R4(2022).8.29
  openpbsでSingularityが正しく動かない...原因不明...あー沼っぽい
• R4(2022).8.16
  aws上での操作権限、リザーブドインスタンスとEC2リソース可変、VPCのネットワーク構成とS3/EFS、オンプレのFSとの連携など
  考慮して既設のオンプレミスの延長線としてのawsはどうすればいいのか検討しているが、、用語が多くて難しい...
• R4(2022).8.13
  このサイトのアクセス数が落ちてきている. 記事の更新、追加が遅いからかなと. この夏休みでawsとかは書き上げたい.
• R4(2022).8.8
  SBGridが簡単そう....
  MikroTikから100Gbps４ポートが799$、25Gbps*16+100Gbps*2が1595$...買いたくなってくる...
• R4(2022).8.6
  pci passthroughでwindows仮想マシンを作成. VGAはT600. T600だからとQuadro系のビデオドライバーを入れたら
  「nvidia コントロールパネル」が開かず落ちる. ドライバーをGeforce向けに切り替えたら動いた...次はWarpのテスト.
  A2000はQuadro系でもOKであった
• R4(2022).8.1
  AWSについて再度検討っというか使ってみる.
• R4(2022).7.30
  apple mac mini M1でconda提供のアプリが動かない.
  アプリをarm向けにコンパイルするか、x86/x64なLinux仮想環境を用意して動かすかの２つの選択肢かな.
  fusion/parallelはチップの継承でarmならarmな仮想マシンを稼働できる.
  armからx86/x64な仮想OSを動かすにはUTMのように内部にQEMUのようなプロセッサ エミュレータが必要みたい.
• R4(2022).7.29
  openPBSの設定を行っているが、ホスト名に「 _ 」(アンダースコア)があるとダメ見たい.
• R4(2022).7.28
  cryoSPARCを別ノードで稼働させたらmongo dbが起動しなくなった....一応repairで元に戻ったけど要注意点かも.
  KAMOを更新してみた. DIALS v3に対応の事なので.
• R4(2022).7.25
  Apple mac mini Late 2012 を持っているが10年前の製品. なんら問題なく使えるが新たに mac mini(M1) を購入してみた.
• R4(2022).7.22
  MegaRAIDのLSA ServerのTCPポートが9000、php-fpmで使用するポートが同じくTCPの9000. 後者を9001にしてみる
• R4(2022).7.20
  古いcryoSPARCを導入することになって入れてみたらうまく動かない. どうもインストール途中でpythonモジュールの取り込みに
  失敗した模様. 手動で入れることで回避できたが、「eval $(cryosparcm env)」でcryoSPARCのpython環境になれるみたい.
  miniconda+confa-forgeでtopazは動いた. torchを変更すればいいだけみたい.
• R4(2022).7.12
  miniconda+conda-forgeリポジトリでtopaz(GPU)は無理みたい..topaz(CPU)なら動いた.
  一方でminiconda+anacondaリポジトリはどちらも問題なく動く. まぁー当然でしょうか.
  miniconda+conda-forgeならライセンス的に嬉しいのですが、、cudaが絡むとまだ無理っぽい
  ただ、anacondaのライセンスってアプリを利用する側にも適用なの？開発者でもないのに.
  昔intel-ccはライセンス品だけど、その作られたバイナリーにまで範囲は及ばなかったのに
• R4(2022).7.9
  minicondaでtopazを動かそうとしているのだが、、、動かない...
• R4(2022).7.8
  哀悼
  TVを捨ててよかったと改めて思う
• R4(2022).7.5
  nvidia GPU cloud、NGC、なんばグラ..いや. 只今こちらを勉強中.
• R4(2022).6.21
  LDAPの修正にはLDAP adminがやっぱ楽. だがこれはwindowsアプリである. mac/Linuxで使える軽量なツールはないのだろうか..
  KNIMEの日本語による入門使い方講座動画を発見. データの下拵えには手順、順路が明確に分かるこれがいいと思う.
• R4(2022).6.17
  rsyncで「--chown」を使うには「-og」が必要みたい. 一見すると不要そうに見えるが、必要だったみたい.
• R4(2022).6.16
  alphafoldがv2.2.2に更新された模様. alphafold_non_dockerはそのままでも行けそうな感じでしょうか.
  v2.2.0からの系統なので大きな変化はないのかなと思ってます.
  LocalColabFoldがupdateされたみたい. 対応せねば
• R4(2022).6.15
  anaconda3-2022.05ではmpirunがデフォで入っている.
  PATH環境に注意しないとOS由来のmpirunではなくanaconda由来のmpirunを使うことになりかねない.
• R4(2022).6.14
  新しいGPUと古いGPUの共存は避けましょう. 両者のCUDAライブラリの許容範囲を十分に検討しないと厳しくなる.
  GT710とRTX30x0の共存はCUDA-11-4だけかな. それよりも上なら計算でエラーがでて、下ならRTX30x0を認識しないみたい.
• R4(2022).6.12
  wifi adaptor(RTL8812au)をubuntu20.04に繋げてみた. OS提供のドライバーは無理でgitで取得したドライバーでなんとかなった.
  RHEL8系は...無理みたい. kernelを手動で上げれば芽が出るかもですが、コスト高すぎかな.
• R4(2022).6.10
  疲れたぁ...課題を片づけねば...
• R4(2022).6.9
  alphafold2のjackhmmerで使用するcore数を引数で指定するようにしてみた.
  hhsearch部分も指定可能だけど既定でそんな長時間なタスクじゃないのでこのままでいいかなと思っている.
• R4(2022).6.6
  ccp-em v1.6.0がリリースされていた. ubuntu20.04ではそのままでは動かない. ccp-emの中のlib/libfreetypeを丸ごと削除で動く.
• R4(2022).6.2
  cryoSPARCでmaster-workerでworkerを繋げようとしたら「pycuda._driver.Error: cuInit failed: unknown error」と言われた.
  ない頭を駆使して対処中..
• R4(2022).6.1
  画像解析を行っているが、、難しい. 基本であるtensorflowから着手すべきだったのかも..
• R4(2022).5.30
  Anaconda3で2022.05がリリースされてた模様.
  Anacondaと非pythonアプリの実行環境整備にここでは environment-modules を提案している.
• R4(2022).5.28
  休み
• R4(2022).5.25
  AIで画像解析. よく分からん. っが習得せねば...
  zabbixでjob queuing監視は上手く行っている. あとはRAIDカードとの連携かな. 各計算ノードでnvidia-smiを実施してnvidiaカードの健全性確認とかもありかな.
• R4(2022).5.20
  ChimeraXでOpenGLが古いから表示されない事案があったのだが「export MESA_GL_VERSION_OVERRIDE=3.3」と指定したら行けた..
  CPU内蔵VGA経由ならほぼ問題がないのだが、VGAなしCPUchipで外部のVGAchip経由でたまに発生するこれ.
• R4(2022).5.17
  eBayでAdaptec(microsemi)とLSI(broadcom)のRAIDカードを注文. zabbixで異常を検知できるようなので試してみる.
  QNAPの連携はすんなり行った. 監視通知はでこれでよくね？って思ってきた.
• R4(2022).5.16
  ローカルログインでubuntu20.04では/etc/profile.d/*.shがどうも評価されないみたい.. ubuntu22.04でも..設定方法が違うのかな？
  リモートアクセスなら正しく評価されるのに.. RHEL7系、RHEL8系ならローカルログインでも評価される.
  っで回避策がターミナルを開いてそのpreferences/Unnmaed(profiles)/Commandで「Run command as login shell」を有効にする事みたい. 確かに治った.
  これは...ユーザに修正操作を促すので微妙.. なので/etc/skel/.bashrcに「source /etc/profile.d/module.sh」らを入れるのだが..
• R4(2022).5.14
  zabbixでOpenPBSの稼働状態、どのくらいのcpuがあって現在いくつ使われているかとかのグラフが描けた.
  あとは、投入されているジョブ数、pending中のジョブ数のグラフ、各queueでのCPU稼働率とか作るつもり.
  ログ監視機構を使って「何時何分、だれだれのジョブ投入」とかもできるけど...まぁ要らないな.
• R4(2022).5.12
  今週、ずっと体が重い..
• R4(2022).5.8
  zabbixで感知した障害情報をmailの他に slack にも流せた. 設定がかなり複雑だけど行けた.
  次はjob queuing systemとの連携かな.
• R4(2022).5.7
  zabbix. ようやく監視対象ノードを登録して、その停止、復帰でメールが届くようになった. slackに流したいのだが....
  あとjob queuing systemと連携させたい. リソース要求毎の待ち時間とか出せたらと思う. 1枚gpu、4枚gpu要求時の待ち時間とか.
  relionならジョブ名が統一されるのでジョブごとの平均時間とか、まぁそれって課金目的に近くなる思想だけど.
• R4(2022).5.3
  samba. 基本形は変わらないご様子. こちらのコンテンツでsybylドメインからldaps接続を考慮してchaperone.jpドメインに変更したら
  記事のほとんどを変更しなきゃいけないことに気が付いた...この辺はのんびり更新かなぁ. zabbixの勉強もしなきゃでタスクが嵩む.
• R4(2022).5.2
  初心に戻ってsambaの勉強をします.
• R4(2022).5.1
  FreeIPAについて勉強をしているが、、どうもFreeIPAドメインの外にあるwindowsクライアントからのアクセスはダメ見たい.
  NTLM認証でファイルのやり取りができたらと思ったのだが無理っぽい. 4/27で実現できたと思ったのだが確認不足でした.
  linuxのみの環境なら最高な代物なのだが、ヘテロOS環境だとsamba-adがいいみたい.
• R4(2022).4.29
  「mkhomedir_helper」のコマンドを今知った...まだまだ未熟です..
  FreeIPAってパッケージ管理がしっかりしている事が大前提って感じる. なので仮想マシンとかで専用ノードで運用かな. 他の作業はさせないって感じで.
• R4(2022).4.27
  FreeIPA配下でsambaとwinbindを上げて、windowsPCでパスワードによるアクセスが可能になった
  ほぼほぼクラスター計算機環境に置いてのログインノードへのアクセス、並びにsmb共有がFreeIPAでもできるって感じでしょうか.
  ldapは勿論の事、nisよりも操作性がいいですね.
• R4(2022).4.24
  FreeIPAを勉強中. なかなかいい. 伝統工芸のnisもいいけど、LDAPを選ぶならこっちにした方が断然いいかも.
• R4(2022).4.22
  cudaの「persistence mode」を既定で有効にすべきかなと検討中. cryoSPARCをjob queuing system系で回すなら問題軽減になりそう.
  まぁーopenPBSでnvidiaをhookさせておくのも必要っぽいけど. openldapの復習とともに389-dsも習得せねば...
  計算機へのログインはssh. ファイルのやり取りはsmb. samba-adなら両方ともカバーできる. ならldapなら？
• R4(2022).4.15
  relionのVDAMはGPUを１枚使用する. そうなるとクラスター計算機では１ノード２枚GPU、４枚GPU計算機に於いてGPUの排他的制御が
  求められるのかなと思っている. 故openPBSではhookによるGPUリソース制御が必須かなと。
  anaconda3-5.3.1は基底にmpiは入っていない. っがanaconda3-2021.11には入っている...
• R4(2022).4.10
  runfileで入っているcudaをyumで最新にしたいと思った. 「nvidia-uninstall」でrunfile由来を消してyumで最新を入れたのに
  runfileのドライバを探しているみたい. rmmodで消してnvidia-smiで新しいのを呼び出して dracut で一応回避解消される.
  yumでcudaを入れた際、dracutが動いていないのかな？
• R4(2022).4.6
  統計ではないがアンケート用紙からデータを読み取るためにPhpSpreadsheetを使っている.
• R4(2022).4.2
  年度が始まる.
  動く動かないはesxiの仮想環境で確認できるが、使える使えないは別問題. そこらはawsとかで検証がいいのだろうが金次第かなぁ.
  そろそろGPUカードとcudaの対応・非対応を考えねば..cuda-11.3までの製品とか現実にあるからね...
• R4(2022).3.28
  windows10--(ssh with Xming)-->計算機--(docker)-->計算機内のdockerコンテナ と繋げたがコンテナ内のX11アプリが
  表示できない...DISPLAY変数やXのソケット共有もしたけど無理だった. 「--net host」を付ければ動くのだが、
  これを付けると実機なのかコンテナなのか区別付かずできれば避けたい...
• R4(2022).3.26
  crYOLOなのだが、「ValueError: cannot convert float NaN to integer」とエラーが生じる...
  っでpyStarDBをひとつ前のversionにすれば回避可能っぽい「pip install pystardb==0.3.1」
• R4(2022).3.25
  ようやく確定申告が完了
  R-studioがアイコンクリックで起動するのはいいのだが、「R」のPATHが定義されないとアイコンクリックでは起動しない.
  「module load R」を汲んでの起動は難しいみたい..
• R4(2022).3.20
  当面ネットが使えないかなと思ったら翌日に回復していた.
  job queuing systemにcontainer(docker, pod, singuraliry)を載せてより豊富な実行環境の提供を考えてみた.
  system側でcontainerの下地を作るには別途ライセンスが必要みたい(openPBS). ならユーザサイドで実装となるかな.
  その場合dockerはroot権限の問題で厳しいので、singuraliryが便利なのかな.
• R4(2022).3.17
  光終端装置が機能不全. っでネットが全く使えない. 仕方なくスマフォでテザリングです. なので当面リモートアクセス作業は難しいかも...
• R4(2022).3.16
  topazがcondaでもpipでも0.2.5になった模様. relionとGautomatch/crYOLOの連携を考えた記事があるRelion/Gautomatch
  topazでも...って思ったらそういえば4.0でtopazは連携で出来たんだと今更思い出した.
• R4(2022).3.14
  事務処理が終わらない...
  ここで使っているpukiwikiシステムを他で運用と思って構築したのだが、、、仕様が変わっている..
• R4(2022).3.11
  合掌
• R4(2022).3.9
  青色申告会の判を頂こうと面会予約をしらた今月末と言われた...どうやら確定申告の期日が伸びたみたい. すっごく焦った..
  nfs越しにmake -j 20としたらmakeさんから「はぇーよw」って言われた. っでnfsのasyncを外したのだが同じ症状に.
  怖いから単に「make」で作ってる. localなら問題ないのに..
• R4(2022).3.2
  alphafold2のDockerfileを見ながらnon_docker版をちょいと手直. v2.1.2でも動くようになったみたい.
• R4(2022).2.21
  そろそろmacOSでの検証が必要かな. っが手持ちのminiはLate 2012でMontereyは無理. 仕入れるか..
• R4(2022).2.17
  未知の計算機環境に踏み入るのは楽しいものである. 新しい発見は勿論のことここまでの経緯を考えると非常に感慨深い.
• R4(2022).2.16
  alphafold2のパラメータセットのライセンス文言が変わったのね. 知らなかったよ... これで企業さんの利用が増えるかな.
• R4(2022).2.14
  使わなくなったファイルサーバが複数ある. それを集約して大きなファイルサーバにしようとGfarmを検討したが要件的に無理になった.
  っで素直に iscsi で各ファイルサーバのストレージボリュームを集約させて LVM で提供することにした.
• R4(2022).2.13
  マウスのクリックボタンが効かない...同じマウスをまた購入. これで３台目. 別な製品に代えればいいのかも知れないが慣れた手前代えられないみたい.
  とあるサイトでセキュリティ監査があってsshの修正が必要になった. 公開鍵方式を取った接続でもそれ以外の部分にも気を配る必要があるみたい.
  引っかかったのは暗号アルゴリズムと鍵交換アルゴリズム. 以外に深いお話でした.
  Gfarmのミーティングに参加し忘れた... 運用的には使わないかなと判断しているが聞きたかった..
• R4(2022).2.2
  メインの計算機をCentOS8から移さねば...
• R4(2022).2.1
  ぉぉぉ、crYOLO-1.8.2でRTX30x0(RHEL7/8系)が対応になったみたい. 素直に動いた.
  ぁっ、NVIDIA/tensorflowの更新のおかげっぽいかな.
• R4(2022).1.31
  統一資格申請が完了...
  ぉぉ、crYOLO-1.8.2がリリースされた
• R4(2022).1.30
  ほぼ回復かな. 事務処理に泣いている....ってもこれは必要な事なのだが...
• R4(2022).1.29
  微熱は治まったみたい. っが引き続き要監視かな.
• R4(2022).1.28
  微熱. 要監視中
• R4(2022).1.27
  検証用のesxiのnicが不調のご様子. 再起動したらesxiに繋がらず焦った. 幸い予備のnicで代替できたけど
  esxi向けのnicって結構指定があるので焦る
• R4(2022).1.20
  amazon S3に試しにemデータらを 23GB 置いてみた. [0.025 per GB - first 50TB]なので 0.025*23 = $0.57で実際にその額が請求された.
  10TBなら 0.025x10,000=$250みたい. 20TBのHDDが8萬円なら３か月S3に置くならHDDが安いとなるかな(1ドル=114円として)
  S3 Glacier Flexible Retrievalを使えば 0.0045USD/GB なので５分の１以下となる. アーカイブならやっぱりLTOかな..
• R4(2022).1.19
  LDAPサーバとRHEL8系OSとの連携. sssdよりカスタムでnslcd経由が簡単かな...
• R4(2022).1.17
  ChimeraXはリモートで使わずにコンソールで使うもの. smbでファイル共有してwinPC/macPC内のChimeraXで操作した方が最適かと思う.
  Gfarmを作らねば....
• R4(2022).1.10
  EnvironmentModulesで「set-alias」がうまく動かない現象はModules-5.0.xにupgradeすれば回避可能.
  まぁ運用次第なのよね. 「set-alias」を含むmoduleファイルを使うたびにloadするならこれまでも大丈夫なのだが、
  「.bashrc」とかに「set-alias」を含むmoduleファイルをloadさせても効かないみたい(4.X系). RHEL7系なら3.2.10なので大丈夫.
• R4(2022).1.9
  qnapのHBS3を使ってイメージデータをS3に上げるテストを実施. 問題ないね. 前回はadsl回線だから失敗したのでしょうな.
• R4(2022).1.7
  年明けからちょいと多忙で3連休がありがたい.
  術後の処置で病院へ行きあとは自分で対処することになった. 快方に向かっているみたい.
• R4(2022).1.1
  謹賀新年

• R3(2021).12.31
  Singularityで動くcrYOLOを作成してみた. 使っている環境のせいなのかどうもACPIの警告がでてしまう.