首页 文章 精选 留言 我的

精选列表

搜索[图片加载],共10000篇文章
优秀的个人博客,低调大师

如何在运行pyspark时加载本地jar包?

某内网项目需要测试spark和mongodb联调,因为不能连接外网,所以下载好了相应的jar包扔进去了。 官网给出的事例代码如下: ./bin/pyspark --conf "spark.mongodb.input.uri=mongodb://127.0.0.1/test.myCollection?readPreference=primaryPreferred" \ --conf "spark.mongodb.output.uri=mongodb://127.0.0.1/test.myCollection" \ --packages org.mongodb.spark:mongo-spark-connector_2.11:2.4.0 其中--packages参数后面指定的jar包会自动从maven包中心下载,对于无法连接互联网的机器,会提示错误。 其实,答案很简单,只需要在后面跟上--jars参数就好: ./pyspark --conf "spark.mongodb.input.uri=..." --conf "spark.mongodb.output.uri=..." --jars "/path/to/local/xxx.jar" 后面的路径建议使用绝对路径,以防手误。

优秀的个人博客,低调大师

Nginx学习之开启Gzip压缩提升页面加载速度

前几天有个买链接的,顺手查了下站的权重,果然又回到1了,尽管不是太在意这个东西,但是总归越高越好了。 然而重点是在爱站的最下面居然发现了居然没有开启Gizp,由于论坛开启CDN一直有问题,就放着没弄, 虽然是2MB的带宽,也不能这么玩不是。 新建 gizp.conf #开启gzip压缩 gzip on; #设置允许压缩的页面最小字节数 gzip_min_length 1k; #申请4个单位为16K的内存作为压缩结果流缓存 gzip_buffers 4 16k; #设置识别http协议的版本,默认为1.1 gzip_http_version 1.1; #指定gzip压缩比,1-9数字越小,压缩比越小,速度越快 gzip_comp_level 2; #指定压缩的类型 gzip_types text/plain application/javascript text/css application/xml text/javascript application/x-httpd-php image/jpeg image/gif image/png; #让前端的缓存服务器进过gzip压缩的页面 gzip_vary on; #IE6对Gzip不怎么友好,不给它Gzip了 gzip_disable "MSIE [1-6]\."; 导入 nginx.onf http { include mime.types; default_type application/octet-stream; #开启高效文件传输模式 sendfile on; #设置客户端连接保存活动的超时时间 keepalive_timeout 65; #压缩配置 include gizp.conf; #导入项目网站 include vhosts/*.conf; } 重启Nginx服务 nginx -s reload 用curl测试Gzip是否成功开启 [root@itstyle nginx]# curl -I -H "Accept-Encoding: gzip, deflate" "http://www.52itstyle.com/data/cache/common.js" HTTP/1.1 200 OK Server: nginx/1.10.3 Date: Mon, 05 Feb 2018 01:49:24 GMT Content-Type: application/javascript Last-Modified: Wed, 13 Dec 2017 07:45:08 GMT Connection: keep-alive ETag: W/"5a30da84-d95d" Content-Encoding: gzip 作者: 小柒 出处: https://blog.52itstyle.com 分享是快乐的,也见证了个人成长历程,文章大多都是工作经验总结以及平时学习积累,基于自身认知不足之处在所难免,也请大家指正,共同进步。

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源,继承了IntelliJ IDEA强大的JS部分的功能。

用户登录
用户注册