基于AWS学习的10个Linux命令分别是什么

技术基于AWS学习的10个Linux命令分别是什么基于AWS学习的10个Linux命令分别是什么,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。在AWS上执行

基于AWS学习的10个Linux命令是什么?我相信很多没有经验的人对此无能为力。因此,本文总结了问题产生的原因及解决方法。希望你能通过这篇文章解决这个问题。

在AWS上实现大规模深度学习是一种廉价有效的学习和开发方式。用很少的钱,就可以使用几十GB的内存,几十个CPU,多个GPU,值得推荐。

如果您是EC2或Linux命令的新手,这些命令在云中执行深度学习脚本时非常有效。

本文的主要内容包括:

1)在该机器和EC2实例之间复制数据。

2)让脚本按日、按周、按月安全运行。

3)监控进程、系统和GPU的性能。

注意:所有命令都是在类似linux的环境中执行的(Linux、OS x或cygwin)。

00-1010假设AWS EC2一直正常运行。为方便起见,环境设置如下:

1)1)EC2服务器的IP地址是54.218.86.47。

2)用户名为ec2-user。

SSH密钥位于~/。ssh/,文件名为AWS-keypair . PEM;

4)使用python脚本。

有关如何构建基于GPU的EC2实例来执行深度学习,请参考:

https://machinelneringmastery.com/develop-evaluate-large-deep-learning-models-keras-Amazon-web-services/

00-1010在做任何事情之前,您应该首先登录到目标服务器。只需使用SSH命令。将SSH密钥存储在~/。使用有意义的文件名ssh/如aws-keypair.pem使用以下命令登录到EC2主机,注意地址和用户名:

ssh -i ~/。ec2-user@54.218.86.47

00-1010使用SCP命令将本地文件复制到服务器,例如,将script.py文件复制到EC2服务器的命令如下:

scp -i ~/。ssh/AWS-keypair . PEM script . pye C2-user @ 54 . 218 . 86 . 47: ~/

00-1010在服务后台执行脚本时,可以忽略其他信号量,忽略标准输入输出,将所有输出和错误信息重定向到一个日志文件。对于需要长时间运行的深度学习模式来说,这是非常必要的。

no PYTHON/home/ec2-user/script.py/home/ec2-user/script.py.log/dev/null 21在此命令中,script . py和script . py . log位于/home/ec2-user/目录中。参考关于nohup和重定向的其他细节(例如,在维基百科中)。

00-1010如果EC2支持,建议同时运行多个脚本。例如,如果EC2有四个图形处理器,一个脚本可以在每个图形处理器上独立运行。示例代码如下:

da _ VISIBLE _ DEVICES=0 nohuppython/home/ec2-user/script . py/home/ec2-user/script . py . log/dev/null 21如果有4个GPU,可以指定CUDA_VISIBLE_DEVICES从0到3。这在喀拉斯是可行的,TF是背景,但在安诺没有测试。

有关CUDA_VISIBLE_DEVICES的更多信息,请参见https://devblogs.nvidia.com/parallel。

00-1010如果输出结果中有项目评分或者某个算法的运行结果,那么实时监控脚本的输出是非常有意义的。例子如下:

很遗憾,当屏幕上有一段时间没有输出时,AWS会关闭这个终端,所以最好使用:

看‘tailscript . py . log’有时候看不到python的标准输出,所以不知道是python还是EC2。

从00到1010监控EC2系统的性能是很有意义的,尤其是已经使用或者还剩多少内存。例如:

Top-M或指定进程标识号:

Top-pPID-M

0、环境约定

如果多个脚本同时在GPU上执行并并行执行,最好检查一下每个GPU的性能和利用率。例如:

一般来说,手表“NVIDIA-SMI”

1、 登陆到服务器

会一直保持终端打开。

一般情况下,不建议直接在服务器上修改watch ' PS-ef | grepytons '

2、 拷贝文件到服务器

,除非您熟悉vi:

这里不描述vi~/script.pyvi的用法。

00-1010与上传文件相反,这是下一个png文件的示例:

Scp-I ~/。ssh/AWS-keypair . pemec 2-user @ 54 . 218 . 86 . 47: ~/* . png .

3、使脚本在服务器的后台运行

如果要同时运行多个脚本,最好选择有多个GPU的ec2。

最好在本地编写脚本。

将执行结果输出到文件中,并下载到本地进行分析。

使用watch命令保持终端运行。

在本地执行远程命令。

其实大部分都是后台开发工程师的基本功,但对感兴趣的发烧友有点参考价值。

看完以上,你掌握了基于AWS学习的10个Linux命令是什么的方法了吗?如果您想学习更多技能或了解更多相关内容,请关注行业资讯频道。感谢阅读!

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/40186.html

(0)

相关推荐

  • 如何使用字形2进行马字体设计编辑软件

    技术Glyphs 2 for Ma字体设计编辑软件怎么用Glyphs 2 for Ma字体设计编辑软件怎么用,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法

    攻略 2021年12月20日
  • 查看mysql错误日志的方法是什么

    技术查看mysql错误日志的方法是什么本篇内容介绍了“查看mysql错误日志的方法是什么”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,

    攻略 2021年12月2日
  • 弯月眉,因为胖找不到对象,怎么办

    技术弯月眉,因为胖找不到对象,怎么办为了好找对象就坚持减肥弯月眉,如果觉得找不找对象无所谓的话,你就放开吃吧!
    一个人的体重超标,过于肥胖;一,对你的健康也不好。二,行动不方便,工作难找。三,不入法眼,找对象难。
    有句话

    生活 2021年10月26日
  • 哈尼族的传统节日风俗,哈尼族有哪些节日和风俗习惯

    技术哈尼族的传统节日风俗,哈尼族有哪些节日和风俗习惯居住习俗:哈尼族多居住在半山腰,依山势建立村寨。2.服装习俗:哈尼族一般用自己染织的藏青色土布做衣服。男人多穿对襟上衣和长裤,用黑布或白布裹头。妇女多穿右襟无领上衣,下

    生活 2021年10月21日
  • qt画切片地图(qt 地图演示)

    技术Qt编写地图综合应用之如何绘制雨量分布这篇文章主要介绍Qt编写地图综合应用之如何绘制雨量分布,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!一、前言雨量分布图是在区域地图基础上,针对区域中的每个

    攻略 2021年12月25日
  • 如何快速搭建实用的爬虫管理平台

    技术如何快速搭建实用的爬虫管理平台这篇文章主要讲解了“如何快速搭建实用的爬虫管理平台”,文中的讲解内容简单清晰,易于学习与理解,下面请大家跟着小编的思路慢慢深入,一起来研究和学习“如何快速搭建实用的爬虫管理平台”吧!爬虫

    攻略 2021年10月23日