首页 文章 精选 留言 我的

精选列表

搜索[智能推荐],共10000篇文章
优秀的个人博客,低调大师

推荐开源软件 —— Tachyon 分布式存储系统

Alluxio 原名 tachyon。 Alluxio 是一个高容错的分布式文件系统,允许文件以内存的速度在集群框架中进行可靠的共享,类似Spark和 MapReduce。通过利用lineage信息,积极地使用内存,Alluxio的吞吐量要比HDFS高300多倍。Alluxio都是在内存中处理缓存文件,并且让不同的 Jobs/Queries以及框架都能内存的速度来访问缓存文件。 特性: 类 Java 的文件 API 兼容性:实现 Hadoop 文件系统接口 可插入式的底层文件系统 内建 Raw 原生表的支持 基于 Web 的 UI 提供命令行接口 Alluxio 架构: https://yqfile.alicdn.com/b5b264f68bef39f3995683ccdb8a28f1a3a6a0e8.png " > 与 HDFS 的比较: Hadoop足够快吗?美国加州大学伯克利分校的AMPLab基于Hadoop的核心组件开发出一个更快的版本Alluxio。AMPLab从底层重建了Hadoop平台,“没有最快,只有更快”。 AMPLab在大数据领域最知名的产品是Spark,它是一个内存中并行处理的框架,Spark的创造者声称:使用Shark运行并行处理Job速度要比MapReduce快100倍。又因为Spark是在内存运行,所以Shark可与Druid或者SAP's HANA系统一较高下。Spark也为ClearStory下一代分析和可视化服务提供处理引擎。如果你喜欢用Hive作为Hadoop的数据仓库,那么你一定会喜欢Shark,因为它代表了“Hive on Spark”。 AMPLab的最新目标就是Hadoop分布式文件系统(HDFS),不过HDFS在可用性和速度方面一直受人诟病,所以AMPLab创建了Alluxio( 在High Scalability上非常夺目,引起了Derrick Harris的注意)。 当然,AMPLab并不是第一个对HDFS提出质疑的组织,同时也有很多商业版本可供选择,像Quantcast就自己开发了开源文件系统,声称其在运行大规模文件系统时速度更快、更高效。 诚然,AMPLab所做的工作就是打破现有商业软件的瓶颈限制。如果碰巧破坏了现状,那么就顺其自然吧!不过,对于用户来说,AMPLab只是为那些寻找合适工具的人员提供了一种新的选择,AMPLab的合作伙伴和赞助商包括谷歌,Facebook,微软和亚马逊网络服务,它们当然非常乐意看到这些新技术,如果很有必要的话。 AMPLab的其他项目包括PIQL,类似于一种基于键/值存储的SQL查询语言;MLBase,基于分布式系统的机器学习系统;Akaros,一个多核和大型SMP系统的操作系统;Sparrow,一个低延迟计算集群调度系统。文章转载自 开源中国社区 [http://www.oschina.net]

优秀的个人博客,低调大师

docker容器端口IP规划及端口动态扩容 推荐

docker容器一旦启动,参数就无法改变,生产环境中最常变的就是端口映射,为了解决这个问题,那么首先就要规划好,本文列出了两种端口规划方案,如果后续维护中出现了要增加端口映射的场景,本文也给出了动态端口映射扩容方案。 1、单IP多容器映射规划方案 此种环境适用只有单个IP环境下,如云主机等。 1.1 端口映射规划表格: 规划不同的端口段,映射到容器从而对外提供服务。 主机名称 ssh映射 mysql映射 nginx映射 redis映射 redis-test 51000 22 51001 3306 51004 80 51002 6379 51005 8000 51003 6381 51006 8888 scheduler-test 52000 22 52001 3306 52004 80 52002 6379 52005 8888 52003 6381 52006 8000 … … … … … … … … … 1.2 对应容器启动命令: docker run -h="redis-test" --name redis-test -d -p 51000:22 -p 51001:3306 -p 51003:6379 -p 51004:6381 -p 51005:80 -p 51006:8000 -p 51007:8888 debian02 /etc/rc.local docker run -h="salt_zabbix_manager02" --name salt_zabbix_manager02 -d -p 52000:22 -p 52001:3306 -p 52003:6379 -p 52004:6381 -p 52005:80 -p 52006:8000 -p 52007:8888 debian02 /etc/rc.local 1.3 上述启动参数解释: -h 是指启动后容器中的主机名。 --name 是宿主机上容器的名称,以后启动停止容器不必用容器ID,用名称即可,如docker stop redis-test。 -d 以后台形式运行。 -p 指定映射端口,如果需要映射UDP端口,则格式是 -p3000:3000/udp。 debian02 是基础镜像名称。 /etc/rc.local 是容器的启动命令,把多个启动脚本放/etc/rc.local中,方便多个程序随容器开机自启动。 #关于docker的安装、初步使用、命令详解、镜像制作、容器迁入迁出等,请参考我另一篇文章:http://yangrong.blog.51cto.com/6945369/1551327 2、多IP多容器映射规划方案 此规划比较适用于内网测试研发环境,所有对外访问IP都需要配置在宿主机上,如以第二IPeth0:1,eth0:2这种形式配置,然后每个IP和容器的端口映射配置就可以一致了。 2.1 端口与IP映射规划表格: (此处是内网IP,宿主机IP是10.28.103.1) 主机名称 对外访问IP 容器开放端口 操作系统 iframe-test 10.18.103.2 22 3306 80 8000 8888 443 6379 6381 debian7 web-test 10.18.103.3 22 3306 80 8000 8888 443 6379 6381 debian7 2.2 对应容器启动命令: docker run -h="iframe-test" --name iframe-test -d -p 10.18.103.2:22:22 -p 10.18.103.2:3306:3306 -p 10.18.103.2:6379:6379 -p 10.18.103.2:6381:6381 -p 10.18.103.2:80:80 -p 10.18.103.2:8000:8000 -p 10.18.103.2:8888:8888 -p 10.18.103.2:443:443debian-iframe-test /etc/rc.local docker run -h="web-test" --name web-test -d -p 10.18.103.3:22:22 -p 10.18.103.3:3306:3306 -p 10.18.103.3:6379:6379 -p 10.18.103.3:6381:6381 -p 10.18.103.3:80:80 -p 10.18.103.3:8000:8000 -p 10.18.103.3:8888:8888 -p 10.18.103.3:443:443debian-iframe-test /etc/rc.local 3、端口映射动态扩容方案 在工作当中,一般增加新的服务时,就需新增一个端口映射,由于无法动态调整,通常都需要commit到新的镜像,然后在基于新的镜像来起容器,确实是一件很麻烦的事。 但映射的本质,是通过iptables来完成的。所以我们可以动态的用iptables增加端口映射即可,如下: 3.1 用iptables查看容器映射情况: root@qssec-iframe:~# iptables -t nat -nvL … Chain DOCKER (2 references) pktsbytes target prot opt in outsource destination 0 0 DNAT tcp-- !docker0 * 0.0.0.0/0 0.0.0.0/0 tcp dpt:8000 to:172.17.0.3:8000 0 0 DNAT tcp-- !docker0 * 0.0.0.0/0 0.0.0.0/0 tcp dpt:443 to:172.17.0.3:443 0 0 DNAT tcp-- !docker0 * 0.0.0.0/0 0.0.0.0/0 tcp dpt:3306 to:172.17.0.3:3306 0 0 DNAT tcp-- !docker0 * 0.0.0.0/0 0.0.0.0/0 tcp dpt:6379 to:172.17.0.3:6379 0 0 DNAT tcp-- !docker0 * 0.0.0.0/0 0.0.0.0/0 tcp dpt:6381 to:172.17.0.3:6381 3470 190K DNAT tcp-- !docker0 * 0.0.0.0/0 0.0.0.0/0 tcp dpt:80 to:172.17.0.3:80 0 0 DNAT tcp-- !docker0 * 0.0.0.0/0 0.0.0.0/0 tcp dpt:8888 to:172.17.0.3:8888 41 2336 DNAT tcp-- !docker0 * 0.0.0.0/0 0.0.0.0/0 tcp dpt:50000 to:172.17.0.3:22 #从这里可以找到docker容器里使用的IP,然后在用iptables增加映射即可。 3.2 举例新增zabbix端口的映射: 3.2.1 单IP单容器端口扩容: iptables -t nat -A PREROUTING -p tcp -m tcp --dport 10050 -j DNAT --to-destination 172.17.0.3:10050 iptables -t nat -A PREROUTING -p tcp -m tcp --dport 10051 -j DNAT --to-destination 172.17.0.3:10051 3.2.2 单IP多容器端口扩容: iptables -t nat -A PREROUTING -p tcp -m tcp --dport 50010 -j DNAT --to-destination 172.17.0.3:10050 iptables -t nat -A PREROUTING -p tcp -m tcp --dport 50011 -j DNAT --to-destination 172.17.0.3:10051 #另一个容器则可以规划为60010,60011,这样在zabbix监控的时候,就需要指定客户容器的端口连接了。 3.2.3 多IP多容器端口扩容: iptables -t nat -A PREROUTING -d 10.18.103.2 -p tcp -m tcp --dport 10050 -j DNAT --to-destination 172.17.0.3:10050 iptables -t nat -A PREROUTING -d 10.18.103.2 -p tcp -m tcp --dport 10051 -j DNAT --to-destination 172.17.0.3:10051 #iptables -t nat -A PREROUTING -d 10.18.103.3 -p tcp -m tcp --dport 10050 -j DNAT --to-destination 172.17.0.4:10050 #iptables -t nat -A PREROUTING -d 10.18.103.3 -p tcp -m tcp --dport 10051 -j DNAT --to-destination 172.17.0.4:10051 #这样zabbix连接10.18.103.2,3的正常zabbix端口就可以了。 关于docker的安装、初步使用、命令详解、镜像制作、容器迁入迁出等,点击参考我另一篇文章: >>运维人员的解放----Docker快速部署

优秀的个人博客,低调大师

GEM优化到底是什么:商业推荐位怎么占

一个做本地生活的老板最近有点懵:探店视频拍了不少,可年轻人买东西前先问豆包、问微信里的 AI,而不是开地图搜。当 AI 直接给答案,传统「关键词竞价」那套正在悄悄失灵——而一个新的广告位已经长出来了,叫 GEM优化(生成式引擎营销)。结论先说:GEM优化 就是 AI 搜索结果里的广告位;它的核心不是「出多少钱」,而是「量化什么」。对本地生活来说,先在 AI 答案里「被找到、被看见」,才有机会在商业位「被选择」。

优秀的个人博客,低调大师

2026深度人工兼容性测试服务推荐指南

核心结论:深度人工兼容性测试不是简单地“多找几台手机点一遍”,而是围绕目标用户、核心业务链路和高风险设备环境,完成方案设计、人工执行、异常复现、证据采集、缺陷定级与回归验证。基于截至 2026 年 9 月 9 日可核验的公开资料,优测具备真机、标准兼容性测试和专家服务能力,可进入深度人工兼容性测试候选池;最终是否选择,仍应通过代表性项目验证设备匹配度、人工测试范围、缺陷有效率、回归机制与总体成本。

优秀的个人博客,低调大师

金融AI知识库推荐:数据安全合规选型

在金融机构做合规或投研,最基础的痛点是文档散。监管制度、内部处罚记录、未公开战略规范散落在共享盘、邮件、OA多个位置,新人入职后往往要花大量时间手动比对才能确认手里的文件是否为现行有效版本。传统做法是建一个共享文件夹,靠人工命名规范维持秩序,结果版本越堆越乱,谁也不敢确定手里的那份是不是最新。

资源下载

更多资源
腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称,一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集,帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册