aws

AWS获取S3中所有相关文件路径

你说的曾经没有我的故事 提交于 2020-02-12 21:10:35
在做数据预处理的时候, 先是在local实现, 使用了os去获取单个文件夹下所有文件的路径然后去处理. def get_file_list ( mainfile ) : path_list = [ ] for doc in os . listdir ( mainfile ) : newpath = os . path . join ( mainfile , doc ) if os . path . isfile ( newpath ) : path_list . append ( newpath ) return path_list 然而在将代码转移到AWS Sagemaker时当然就不能使用os去获取路径了. 要理解的是S3是没有folder的概念的, 虽然我们在S3的console里面可以看到类似folder的结构, 但实际上我们只是在不同object的名称中加了prefix而已. (其实我觉得是一个东西…但亚麻强调没有…那就没有吧)下面是获取一个buket中相关key的所有文件路径的方法 import boto3 def get_file_list ( bucket_name , prefix ) : s3 = boto3 . resource ( 's3' ) bucket = bucket_name my_bucket = s3 . Bucket ( bucket )

AWS Networking 总览

廉价感情. 提交于 2020-02-11 22:39:31
Youtube连结: https://www.youtube.com/watch?v=TRV3JV4-UiQ&list=PLVVMQF8vWNCKBr5gBbj_zDwH85YaRPQyv 这系列主题能大家透过Solution Architect的角度,来了解在AWS上我们可考虑使用的network方案。 主题影片: AWS network - Internet Route Solutions (Internet, VPN, Direct Connect) AWS network - Internal Route and Inter VPC Route (VPC endpoints, PrivateLink, VPC peering) AWS network - across-region and across-account route AWS network - Transit Gateway, Direct Connect Gateway 来源: https://www.cnblogs.com/samtsai/p/12296950.html

2019年IT事故盘点【IT必读】

若如初见. 提交于 2020-02-11 19:22:21
昀哥@老兵笔记 2020农历新年开局不容易,新冠肺炎仍在攻艰克难阶段。回首过去的9102年,总有一些事主要是事故值得去记录。下面我们来盘点一下9102年的“外部事故”。 一,我们遭遇的IT基础设施服务事故 2019年是IT基础设施服务相对黑暗的一年。各种灾难性事件高发,我们所依赖的多家公司的关键服务不可用时间突破SLA四个九(即一年52分钟)。下面我们回顾一下: 阿里云 :2019年3月3日,凌晨0点开始,阿里云华北二机房可用区C部分ECS服务器等实例出现IO HANG,导致托管业务的所有服务器资源使用率100%且均无法登录,业务中断长达3小时。 中国移动 :2019年3月15日,由于中国移动的物联网集中化系统(CMIOT)凌晨部署架构优化(第二批)割接上线,从7点11分开始影响全国大面积物联网卡使用,于7点30分开始逐步恢复服务,但由于数千万张物联网卡排队接入,直至上午11点才缓解。 银联、网联和微信支付 :2019年3月23日,14点42分左右,银联和网联(两个清算机构)与微信支付上海机房的物理连接被挖断了,虽然他们快速切换了备用线路,但下游业务均受到了影响,所有交易(支付宝、微信支付、云闪付)都在抖。 114DNS :2019年4月4日,10:30~12:30,114 DNS和谷歌DNS 8.8.8.8 相继挂了。 上海移动 :2019年5月29日,11:10~11:20

Tensorflow file_io的用法

冷暖自知 提交于 2020-02-11 17:13:26
S3 对象存储的使用越来越广泛,其中的好处就不多说了,这里用 Tensorflow 举个例子。 https://github.com/tensorflow/examples/blob/master/community/en/docs/deploy/s3.md Tensorflow 本身就支持从 S3 中读写数据的。在 TenC 弹性计算平台上,用户可以通过指定 AWS_ACCESS_KEY_ID 和 AWS_SECRET_ACCESS_KEY 两个环境变量来校验(有些场景下,已经由平台自动绑定了环境变量)。 # Credentials only needed if connecting to a private endpoint AWS_ACCESS_KEY_ID=XXXXX AWS_SECRET_ACCESS_KEY=XXXXX # Region for the S3 bucket, this is not always needed. Default is us-east-1. AWS_REGION=us-east-1 # The S3 API Endpoint to connect to. This is specified in a HOST:PORT format. S3_ENDPOINT=s3.us-east-1.amazonaws.com # Whether or

aws使用密码远程登录而不用密钥对(centos7.6)

最后都变了- 提交于 2020-02-06 18:13:39
aws使用密码远程登录而不用密钥对(centos7.6) 1、在aws上使用SSH连接服务器 2、然后输入以下命令进行登录密码设置: sudo passwd user_name 将user_name改为你的服务器得用户名 3、修改 /etc/ssh/sshd_config 文件中的 PasswordAuthentication的值为yes vim / etc / ssh / sshd_config 如果服务器该开始搭建可能会提示vim:command not found。 执行以下命令即可: sudo yum install vim 4、重新启动 SSH 服务 sudo service sshd restart 5、最后使用putty等远程服务器管理工具进行密码登录即可。 来源: CSDN 作者: 寒夜冰霜 链接: https://blog.csdn.net/weixin_41835119/article/details/104196685

aws dynamodb 使用GSI进行查询(query)

天大地大妈咪最大 提交于 2020-02-04 03:28:59
var aws = require('aws-sdk'); var docClient = new aws.DynamoDB.DocumentClient({region: 'ap-northeast-1'}); exports.handler = function (event, context) { var params = { TableName: "Thread",//表名 IndexName: "thread-lastupadate_time-index",//GSI 索引名 KeyConditionExpression: "thread = :thread",//GSI 分区键 ExpressionAttributeValues: { ":thread": "thread" //需查询的分区键值 }, }; docClient.query(params, function(err, data) { if (err) { console.log(err, err.stack); }else { console.log("Query succeeded."); console.log(data); context.succeed(data); } }); }; 来源: CSDN 作者: 音羽\ 链接: https://blog.csdn.net/qq_44730442

网站建设(二)深入网站内部结构

跟風遠走 提交于 2020-02-03 12:12:12
aws_app.inc.php应该是主要app所在地了,但aws怎么着也是亚马逊吧? XSS攻击通常指的是通过利用网页开发时留下的漏洞,通过巧妙的方法注入恶意指令代码到网页,使用户加载并执行攻击者恶意制造的网页程序。这些恶意网页程序通常是JavaScript,但实际上也可以包括Java、 VBScript、ActiveX、 Flash 或者甚至是普通的HTML。攻击成功后,攻击者可能得到包括但不限于更高的权限(如执行一些操作)、私密网页内容、会话和cookie等各种内容。 就是上传脚本执行攻击,非常普通的攻击方式,用白名单可以过滤。。。 set_exception_handler() 函数设置用户自定义的异常处理函数。 该函数用于创建运行期间的用户自己的异常处理方法。 该函数返回旧的异常处理程序,如果失败则返回 NULL。 看来前端部分就在aws_controller.inc.php里面,aws_model.inc.php是数据库操作类 那么问题来了,网站的logo在哪里生成呢?答案是,在前端生成器里呗,那么我就要在这里将这个logo部分找出来,要找出来,你就要知道,到底哪里执行了哪里,凑出来这么一个函数 来源: CSDN 作者: 才大难为用 链接: https://blog.csdn.net/HeroIsUseless/article/details/104150812

深度跑车 - DeepRacer

烈酒焚心 提交于 2020-02-02 01:10:22
在当地时间11月28日,美国拉斯维加斯举办的AWS(Amazon Web Services)产品发布会中,CEO Adny Jassy 在宣布的十多个产品中居然也包括有一个用于智能赛车比赛的产品 AWS DeepRacer,计划建立全球自动小车比赛联盟,开放给任何人参加比赛。看看这款1/18的四轮赛车车模如下配置,主要的传感器包括有一个400万像素的摄像头。车模售价$399,明年三月份上市。 ^AWS 宣布的比赛智能车模硬件配置^ None 现在这款车模中的增强学习算法可以借助于亚马逊的DeepRacer 云平台中SageMaker提供的强化学习(Reinforce Learning) 进行训练学习。看来智能车模比赛正在快速变得更深。 什么是强化学习,它具体如何实现,将来会推文介绍。那么使用强化学习训练处来的车模究竟跑的怎么样呢? 下面的动图是采集自参赛同学的哥哥在产品发布现场看到的演示: 经过RL训练后的车模运行情况1 经过RL训练后的车模运行情况2 估计所有看到这款使用AI训练的车模在这样的环境中跑车这样,不免有些失望。车模上还配置了那么强大的处理器和传感器,为何仅仅跑成这个样子?国内的智能车竞赛的车模在同样的赛道上估计早就把他甩到十万八千里了。 这个车模对于赛道的识别和控制规律都是在AWS DeepRacer 3D 仿真环境下,通过增强模型训练处来的。

阿里云、腾讯云、华为云哪个好?迄今最全面的云服务评测报告出炉

断了今生、忘了曾经 提交于 2020-02-01 03:58:24
云计算厂商到底哪家强,各家有各家的说法,今天就来跟你聊一聊,各家厂商的云计算技术到底怎么样。我选取了国内知名度比较高的几家厂商,通过弹性计算能力(云计算的核心能力)、数据库能力、存储能力、人工智能(大数据)、CDN 业务、域名服务等几个方面来评判,看看哪个才是适合你的云计算厂商。 免责声明:本文所发表的观点,由于个人能力和资源所限,仅代表个人意见和客观结果,如有不同意见,欢迎探讨。本文的写作初衷是为了给广大云计算用户在选择云产品时做为参考。 AWS(中国) AWS 作为云计算的老大哥,在弹性计算方面,发展其了以EC2 为首的计算服务矩阵,提供了10 项不同的产品,联合来使用,满足用户对于计算能力的要求。但是产品缺乏场景,无法满足用户的直接需求,需要用户自行构建一些计算的服务。给 4.5 分。 在数据库方面,AWS 提供的数据库类型是相当丰富的,六种常见的SQL 数据库(Amazon Aurora、PostgreSQL、MySQL、MariaDB、Oracle和Microsoft SQL Server)、特有的DynamoDB、基于Redis 和Memcahed 的ElastiCache 产品,给你以最完美的用户体验。给 5 分。 在存储方面,AWS 的S3 存储服务可以说是鼎鼎大名,不少人都听说过或使用过,AWS 还推出其块存储和弹性文件存储系统,以及PB 级文件存SnowBall

亚马逊AWS云搭建安全、简单(10分钟)、免费(一年)的×××服务

旧城冷巷雨未停 提交于 2020-01-29 19:28:28
原文地址: https://www.webdigi.co.uk/blog/2015/how-to-setup-your-own-private-secure-free-***-on-the-amazon-aws-cloud-in-10-minutes/ 我们都知道使用×××的好处,例如安全、隐私、无限制、跨地区等等,但是我们不能信任×××提供者是否潜在地记录和中断你的浏览。搭建一个私有的×××服务可以提供一个可信任的方式。 1.AWS私有×××服务的优势 简单:非技术人员也能很快搭建。 快速:花费10分钟你就能创建自己的×××服务。 私有:提供仅供你使用的×××。 安全:连接加密且连接×××服务器时不保留日志信息。 可控:根据需求随时开始或者中断×××服务。 全球性:可以在9个世界范围内的区域创建一个或者多个的×××服务。 设备支持:支持PPTP、L2TP(IPSEC),意味着你可以在Android、iPhone、iPad、MAC等设备上使用×××服务。 开源:工程源码可访问地址 https://github.com/webdigi/AWS-×××-Server-Setup 免费:亚马逊AWS新用户可以免费使用一年服务。 2.创建你的私有云服务 (1)注册一个免费的亚马逊账号。 访问 http://aws.amazon.com/free/ 注册账号。 绑定信用卡时会划取1$的钱