使用JDBC编程访问ODPS
ODPS提供了自己的JavaSDK作为编程接口。但是对于大多数来自传统关系数据库的用户来说,为了完成一些简单任务再学习一套 SDK,性价比颇低。odps-jdbc 可以较好的解决这个问题。通过 odps-jdbc 可以轻松完成类似执行 select 语句,并获得结果集这样的任务。 创建任意 Java 项目,从 maven 添加 odps-jdbc 作为依赖(位于 maven 主仓-http://search.maven.org/#artifactdetails%7Ccom.aliyun.odps%7Codps-jdbc%7C1.0-public%7Cjar): <dependency> <groupId>com.aliyun.odps</groupId> <artifactId>odps-jdbc</artifactId> <version>1.0-public</version> </dependency> 参考如下示例代码,包含了删表、建表、获取表 meta、执行 insert、执行 select 以及遍历结果集等常见操作: import java.sql.Connection; import java.sql.DatabaseMetaData; import java.sql.DriverManager; import java.sql.ResultSet; import java.sql.SQLException; import java.sql.Statement; import java.util.Properties; public class Main { private static String driverName = “com.aliyun.odps.jdbc.OdpsDriver”; public static void main(String[] args) throws SQLException { try { Class.forName(driverName); } catch (ClassNotFoundException e) { e.printStackTrace(); System.exit(1); } Properties config = new Properties(); config.put(“access_id”, “your_access_id”); config.put(“access_key”, “your_access_key”); config.put(“project_name”, “your_project”); config.put(“charset”, “utf-8″); Connection conn = DriverManager.getConnection(“jdbc:odps:https://service.odps.aliyun.com/api”, config); ResultSet rs; // create a table Statement stmt = conn.createStatement(); String tableName = “jdbc_test”; stmt.execute(“drop table if exists ” + tableName); stmt.execute(“create table ” + tableName + ” (key int, value string)”); // get meta data DatabaseMetaData metaData = conn.getMetaData(); System.out.println(“product = ” + metaData.getDatabaseProductName()); System.out.println(“jdbc version = ” + metaData.getDriverMajorVersion() + “, ” + metaData.getDriverMinorVersion()); rs = metaData.getTables(null, null, tableName, null); while (rs.next()) { String name = rs.getString(3); System.out.println(“inspecting table: ” + name); ResultSet rs2 = metaData.getColumns(null, null, name, null); while (rs2.next()) { System.out.println(rs2.getString(“COLUMN_NAME”) + “\t” + rs2.getString(“TYPE_NAME”) + “(” + rs2.getInt(“DATA_TYPE”) + “)”); } } // run sql String sql; // insert a record sql = String.format(“insert into table %s select 24 key, ‘hours’ value from (select count(1) from %s) a”, tableName, tableName); System.out.println(“Running: ” + sql); int count = stmt.executeUpdate(sql); System.out.println(“updated records: ” + count); // select * query sql = “select * from ” + tableName; System.out.println(“Running: ” + sql); rs = stmt.executeQuery(sql); while (rs.next()) { System.out.println(String.valueOf(rs.getInt(1)) + “\t” + rs.getString(2)); } } } 运行可以获得类似如下结果: product = ODPS JDBC jdbc version = 1, 0 inspecting table: jdbc_test key BIGINT(-5) value STRING(12) Running: insert into table jdbc_test select 24 key, ‘hours’ value from (select count(1) from jdbc_test) a updated records: 1 Running: select * from jdbc_test 24hours 这里列一下使用 odps-jdbc 可能要注意的事项: 目前 odps-jdbc 的实现,类似 select 这样的查询会在 odps 中生成临时表,表名为 jdbc_temp_tbl_$UUID。这些临时表会在 Statement.close 和 Connection.close 的时候被删除。如果忘记了调用 close,这些表会遗留在 ODPS 中,默认生命周期是 3 天。 odps-jdbc 虽然可以完成 insert into 动作,但并不适合如传统关系数据库那样密集执行每次 insert 一条记录的场景。每次 insert into 会启动一个 instance,执行时间可能需要数秒。 并不是所有 odpscmd 命令都被 Statement 支持。Statement 只接受sql语句,例如 set、grant 等都不是 sql。 不支持 select null。目前 odps 无法支持 create table … as select …, null, …,因此在 Statement 中写带有 null 的 select 会出错。 我们的目的是使 ODPS 更加开放、灵活和易用。目前 odps-jdbc 已经完成集团的开源流程,托管在 github-https://github.com/aliyun/aliyun-odps-jdbc 上。欢迎各位开源热心人士积极反馈,贡献代码。