Add support for JNLP based minions

Issue: RELENG-939
Change-Id: I05a4fa92387425932bbc28cadadbb44acbc190bb
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Revert "Print out OS Cloud Plugin version"

This reverts commit dfb2c6ca52a4c885e42d6c2252706bd824c75068.

Change-Id: If217ac6caf7b33c54e61d3a090c1062c666e63b9
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Support recheck and reverify in global-jjb

In OPNFV we are using reverify as a convention (we also support recheck)
This was previously deprecated in global-jjb
But I'm adding it back to not confuse our users

Change-Id: Ie794636e49f97ff2ac2735e81c407b57a3470f55
Signed-off-by: Aric Gardner <agardner@linuxfoundation.org>

Make toxworkdir configurable and default to /tmp/v

By default tox environment will now be installed under /tmp/v/{envname},
but configurable through the CLI environment by specifying TOX_WORK_DIR.

This will allow users dynamically specify where the toxworkdir should
live, like so:

> TOX_WORK_DIR=$(mktemp -d -t gjjb-XXX) tox -e ...

Change-Id: I3daa4dc3538c61fb80a464a1b7e07d7b48fd7a1c
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Document support for os-cloud-plugin 2.37

Change-Id: I4ea15a75d6f98ac95bf352fe0b7ca386e6874723
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Print out OS Cloud Plugin version

Change-Id: I974667afb03f5aa4a00c4098ce93ca96c4a388ec
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix API breakage caused by OS Plugin version scan

Patch I3384c86c64c3aff7404ddec77aa85463e5fbac2a caused an unexpected
API change in get_minion_options which now requires a $silo
variable. However the change was not passed down to all instances
where the function was called causing breakage.

Change-Id: If4a0cec0232d1381413da3f6279f23bc426e1ace
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Update build-timeout parameter documentation

All build-timeout documentation incorrectly lists seconds instead of
minutes, while the the license scanning jobs did not have build-timeout
documented, and the packer merge job had the wrong value listed.

Change-Id: I6e3f2b934bcda92fb14ab9cd996434ff83277408
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Document support for OS Cloud plugin 2.36

Change-Id: I662e1a479f10d9040eb75dd5a29c0c0b25d0dcf8
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix empty  variable when run in Jenkins

Change-Id: Ic6e2b1424e8e59611e021c4a506ba556e8e2111e
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge changes from topic '10422'

* changes:
  Enable ensure-documented check
  Document undocumented macros
  Document undocumented ci-jobs macros
  Document undocumented maven macros

Merge "Document undocumented Python macros"

Merge "Add license check job using new lhc"

Merge "Add support for OS Plugin v2.35"

Merge "Use a more exact grep for fetching cfg options"

Merge "Global-JJB Jenkins scripts require recurse"

Global-JJB Jenkins scripts require recurse

If a project is switching to using the global-jjb provided
jenkins-init-scripts then the clone that they need to do requires that
they do a submodule recurse clone.

Change-Id: I748205f58b016e27bdd1c95df6b67d47b16bb6aa
Signed-off-by: Andrew Grimberg <agrimberg@linuxfoundation.org>
Signed-off-by: Anil Belur <abelur@linuxfoundation.org>

Merge "Support Windows Scripts in JJB and Packer Jobs"

Merge "Make version string optional."

Merge "Remove extra parameter quotes"

Support Windows Scripts in JJB and Packer Jobs

This change enables verification builds to be triggered for changes to
Powershell and Batch scripts in jenkins-job-builder repositories.

Change-Id: Ifb8ca3a59cce116b3a41cb143f080c5a4d488646
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Make version string optional.

versions is not yet documented for INFO.yaml
We do not yet have version in OPNFV's INFO files.

Change-Id: I1aa2f4a323fe9296bf9bfdc3a1d9043e32d24b8f
Signed-off-by: Aric Gardner <agardner@linuxfoundation.org>

Enable ensure-documented check

This script is a dumb script that checks that there is an equivalent
marking in docs/ for each yaml section. This patch also resolves a
bug in the script where it was not detecting all undocumented items.

Change-Id: Id33c8eae06e47256d53457eaa57c21cf7634ee19
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Document undocumented macros

Change-Id: I1726c5c122a2d4b73d17f62dc9f3458f1ab8d731
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Document undocumented ci-jobs macros

Change-Id: Iad4d692f393802716378dabc9770ba0f38967d92
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Document undocumented Python macros

Change-Id: I597822be7e47373efb407ca6ff3b0a788b784c76
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Document undocumented maven macros

Change-Id: I1c052e377402080adca951e3f785ac795e08b124
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Rvrt "Add pre-commit hook for trailing-whitespace"

This reverts commit f325f0dc4d34cb79e9c15813140db1e18ed2a185.

Change-Id: Iaf8fbe8a9760670bd7dc94da89e1cac145be8fb4
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix missing parameters in tox-verify job

Patch If2edba598b47484b1708f1e0f3fb96f035511841 broke parameters in
the tox-verify job by overriding all the existing parameters with
only the PARALLEL parameter. This patch fixes it by moving the
parallel parameter definition so that it is declared along with
the other parameters the job requires.

Issue: RELENG-1042
Change-Id: I6fdd8876235843101bc175ff91ed872aab88279d
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add license check job using new lhc

Create a job using
https://gerrit.linuxfoundation.org/infra/#/admin/projects/releng/license-checker
as the license checker tool for projects.

This job is meant to be managed by LFRE to ensure projects are
providing the appropriate license headers.

Change-Id: I5ca6da61dc6ee250a2c6d451b09a0075fb1ff0b0
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add support for OS Plugin v2.35

The SlaveOptions() API in OS Plugin v2.35 was changed to include a
new minimum instance cap configuration.

Issue: RELENG-1041
Change-Id: I3384c86c64c3aff7404ddec77aa85463e5fbac2a
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use a more exact grep for fetching cfg options

Use an exact grep command to fetch cfg options so that an
option containing the same characters in another option does
not get parsed accidently.

Change-Id: I40f3fd883ab5245da35b911aef3fe9edbda88fe2
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add pre-commit hook for trailing-whitespace

Install using tox:

    tox -e check-hooks

ref: https://pre-commit.com

Change-Id: Ie060a9d1c843ce3889df10535d0a87e41d4b4e76
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Change project to clone by jjb-deploy

When "jjb-deploy" is invoked from a gerrit patch, we do not
want to clone the patch project code ($GERRIT_PROJECT) but
the releng/builder code ($PROJECT).

Change-Id: I329b3c756826250358b20aeb2454cb5650d87f59
Signed-off-by: Luis Gomez <ecelgp@gmail.com>

Remove extra parameter quotes

The quotes should only be used in place where the macro
is called.

Change-Id: Ia76a113aa5cb2d07577d099be5585e4530bdeaf5
Signed-off-by: Anil Belur <abelur@linuxfoundation.org>

Release global-jjb v0.21.0

Change-Id: Ia9cdcfe2112ee60499c6ba35f959dc1e169b8220
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Remove unnecessary github trigger macro

This trigger macro was essentially redefining everything the trigger
directly supports. We might as well just call the trigger directly.

Change-Id: I1fc77b501678f213767a70c99119a56a418910fc
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Set minimal packer version to 1.2.3

Patch Ia195bd99d55f23b4f39acf590520637e54fc006a introduced
`instance_name` which requires a minimum Packer version of
1.2.3 in order to be used.

ref: https://github.com/hashicorp/packer/blob/v1.2.3/CHANGELOG.md

Change-Id: I6219855f8de35519f1ea07cc04385acf91bf90f1
Signed-off-by: Anil Belur <abelur@linuxfoundation.org>

Add INFO.yaml verify jobs

Add '{project-name}-info-yaml-jobs' and
'{project-name}-github-info-yaml-jobs' to validate that
INFO.yaml file changes are kept isolated from other file
changes.

The addition of or changes to an INFO.yaml should be kept
on its own gerrit change and should not be combined with other
changes.

Issue: RELENG-973
Change-Id: Id7ddb55c34a741d92b1e126f1237fb9753a4aa75
Signed-off-by: Jessica Wagantall <jwagantall@linuxfoundation.org>
Co-Authored-By: Trevor Bramwell <tbramwell@linuxfoundation.org>

Merge "Set docs version from git"

Merge "Configurable Timed Trigger for Packer Merge Jobs"

Configurable Timed Trigger for Packer Merge Jobs

This change add the optional parameter 'cron' to packer builds so users
can configure when packer images can be rebuilt. It also switches the
timer from '00 10 1 * *' to '@monthly' to take advantage of Jenkins cron
hash system so the jobs are splayed over the month and don't all start
on the same minute.

Change-Id: I5bc29dab281d8ad1a4260994c1b1d6fb81b5a488
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Set docs version from git

Removes the need to modify conf.py every time we release.

Change-Id: I010c5a4eaf2f2c88156db561218919aa470eaea0
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Use include-regions to limit node build paths"

Merge "Use include-regions to limit Py build paths"

Merge "Use include-regions to limit JenkinsCFG build path"

Merge "Use include-regions to limit packer build paths"

Merge "Use include-regions to limit JJB build paths"

Merge "Use include-regions to limit MVN build paths"

Merge "Use include-regions to limit RTD build paths"

Only create package diff if start and end exist

Issue: RELENG-798
Change-Id: I01b513073b720c7fdabf1638684af9c27eda9f8a
Signed-off-by: Andrew Grimberg <agrimberg@linuxfoundation.org>

Make package listing script smarter

We have extra knowledge of what should be created just by the
environment variables or files that exist. We should use that to
determine if we a diff file should be created.

Issue: RELENG-798
Change-Id: I7dd5baaa669d5e1cc84e94686c7ff6eee303cd6f
Signed-off-by: Andrew Grimberg <agrimberg@linuxfoundation.org>

Use include-regions to limit RTD build paths

Issue: RELENG-1022
Change-Id: I4e5ed50d399b49470a95937a2b17cade210b768c
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use include-regions to limit MVN build paths

Also move trigger definitions to more specific template rather
than anchor.

Issue: RELENG-1022
Change-Id: I73162326251f6ef1e656e06d68062c4ec0d45992
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use include-regions to limit node build paths

Issue: RELENG-1022
Change-Id: I31faddc8f567127ed3d3fa648451c4150cc94c0a
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use include-regions to limit Py build paths

Limit python build paths for GitHub builds similar to what is already
happening with Gerrit versions of these jobs.

Also reorganize the code structure so that the common anchor does not
contain job specific config.

Issue: RELENG-1022
Change-Id: Ieb16ca14cfda425a3efdad0beb346839f6b4aa84
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use include-regions to limit JenkinsCFG build path

Issue: RELENG-1022
Change-Id: I0682fcdcc90e94b7f0f7752eea6fbff8125845a4
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use include-regions to limit JJB build paths

Issue: RELENG-1022
Change-Id: I6c50a864ea85ac2ff41df1ab91a531b55468ed3f
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Use include-regions to limit packer build paths

Issue: RELENG-1022
Change-Id: I283400e5ac2473e2eabb883c44a2a1e705b312ee
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add CSS and HTML to rtd build pattern

Ensure we build the docs when CSS / HTML is modified as well as docs
can contain those file types.

Change-Id: Idc779739d61dd3c3a10860298561b1f3d838ad85
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Add package lists to job logs"

Add documentation for CFP files

* jjbini
* jenkins-log-archives-settings
* packer-cloud-env

Change-Id: I316e4f1b93605029b5956fb1f5d1fd45b1d00c0d
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Add package lists to job logs

A listing of packages that are on the system is useful for debugging
changes that happen during a job run

Issue: RELENG-798
Change-Id: I88bc2eca175bbef1b7581b26199aff9a13f1910d
Signed-off-by: Andrew Grimberg <agrimberg@linuxfoundation.org>

Merge "Document lf-infra-push-gerrit-patch macro in RTD"

Document lf-infra-push-gerrit-patch macro in RTD

JIRA: RELENG-945
Change-Id: I709aec08a10bb6a55b1c84c71c32c303bc1fdce5
Signed-off-by: Anil Belur <abelur@linuxfoundation.org>

Merge "Handle missing CREDENTIAL when creating .netrc"

Merge "DO NOT fail if global-vars-.sh is not configured"

Update OpenStack plugin supported versions list

Confirmed that we work with 2.33 and 2.34 OpenStack plugin versions.

Change-Id: I3612cb242824e438b8bf0df576e951ed753ea8fa
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

DO NOT fail if global-vars-.sh is not configured

All configurations in jenkins-cfg job should be optional. If a project
does not configure a setting then skip it and continue.

Issue: RELENG-962
Change-Id: I386a6371ce3f1ff1b5cc024760f6d316d5008d63
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Handle missing CREDENTIAL when creating .netrc

Move the `set -eu -o pipefail` to after CREDENTIAL is set so that
we can properly error handle. Otherwise the script will exit too
soon.

Change-Id: I58edd3deb5b928a9ebaa4e00f6ed83d652e62d70
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Disable -x to prevent printing passwords

Change-Id: I9b8254aa8d514ca8513f6c9c7872b4abf287cbd1
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Clear log credential files with force (-f)

Prevents Jenkins from printing file not found if the files are
already cleaned up for whatever reason. Eg. If the project is not
shipping logs to a log server.

Change-Id: I7b2f614ded8defcbfe014b44febe210381206675
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add sha1 parameter for GitHub jobs

This allows us to override the sha1 parameter for GitHub verify
job in manual builds. Thus allowing us to manually trigger verify
jobs in Jenkins for GitHub based projects.

Also updates all the existing GERRIT_* descriptions to try to detail
the difference for GitHub PR Triggers vs. Gerrit Triggers.

Change-Id: Ia514955eb2f22f71668e3a3a0cc94bb124f2544a
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Consolidate keypair default names to jenkins-ssh

BREAKING-CHANGE: Minion SSH default KeyPair name is now jenkins-ssh
    Either override in cloud.cfg or rename the Credential in Jenkins.

This is an attempt to consolidate all our different instances
of the ssh-keypair name all over the place. By default we will
consolidate on `jenkins-ssh` as the default keypair name. This
can be overrided of course and applies to the following config
locations in Jenkins / CIMAN:

1. defaults.yaml's `jenkins-ssh-credential`
2. Jenkins > Credentials > ID > jenkins-ssh
3. jenkins-config/clouds controlling both local private key name
   and public key name inside the cloud which now need to match

On a new infra if we are not overriding any values all of these should
accept the default value of `jenkins-ssh`.

Change-Id: I9fe691bbb59d81a1e861261be33cbda00de7a061
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Add labels for linking in configuration.rst"

Add jenkins-init-scripts to global-jjb

These are the minion initialization scripts that start running
when our cloud plugin spawns a new minion. They are responsible
for prepping the minion for Jenkins to take over and run the job.

Issue: RELENG-994
Change-Id: I68e242297db03752fcc415e5465e7bfa8ab66d79
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Add labels for linking in configuration.rst

Change-Id: Ieb17fcddb83f8c12d6331dadbcd6ee6581ea1588
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Setup tools in global-jjb tox.ini"

Setup tools in global-jjb tox.ini

Use -q to hide tox output.

Creates a global tox.ini which can be used by projects to use common
PyPi tools. This replaces the need to "source /path/to/venv"
everywhere in our scripts to jump to different tools.
Instead we replace it with one of:

    tox -q -c jjb/global-jjb/tox.ini -e openstack -- {parameters}
    tox -q -c jjb/global-jjb/tox.ini -e openstack {parameters}

Non-CI management jobs can wget the tox.ini from global-jjb to pull
the configuration.

By default the version installed will be the latest patch version in
semvar. The version comparison operator can be overrided via the
*_VERSION_OP environment variable for each tool type. Install versions
are also overridable via the *_VERSION environment variable.

Ex:

    JJB_VERSION=2.0.6
    JJB_VERSION_OP=">="

https://www.python.org/dev/peps/pep-0440/#version-specifiers

Change-Id: I8b1a0936220ddbeb7f5e051ce15c421fec27c1a0
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Redirect README documentation to RTD

Change-Id: Ie125cb72acc518f2c74463b376e73d44d068971f
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Allow any project/branch to deploy jjb jobs"

Merge "Migrate README to RTD"

Merge "REM security notice about PostBuildScript plugin"

Allow any project/branch to deploy jjb jobs

This allows users to trigger the jjb-deploy job from any Gerrit
patch. It works in 2 different ways:

1. Triggered from ci-management patch
2. Triggered from non-ci-management patch

In case 1) it will deploy whatever is from the ci-management patch.

In case 2) it will instead deploy from HEAD of master in the
ci-management repo.

Change-Id: I414b053a68a105aa4cdc1ab99df9cd9962a080b9
Signed-off-by: Luis Gomez <ecelgp@gmail.com>

Bump version to 0.21.0-dev

Change-Id: Ib7069f20ec0238e723c8c9bedfad35f34cd7488c
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Release global-jjb v0.20.0

Change-Id: Ia24912694223d4e8df81f591829dfb4b4ed5ff22
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Migrate README to RTD

Migrate the contents of the README (legacy) into RTD so that we can
properly link to the data there through Sphinx.

Issue: RELENG-981
Change-Id: I22b21eddb008a6f0c98c3f1ac3d3543372b72752
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Remove echo statement

Sphinx already prints 'The HTML pages are in docs/_build/html.' at the
end of a build. This is redundent and not cross platform compatible
(fails on Windows).

Change-Id: I6e4098aaaed492138d8056495c6db69d3799de1a
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Merge "Simplify conditional statement for ALT_NEXUS_REPO"

Add *.groovy as a filetype trigger to ci-verify

Add support for Jenkinsfile to trigger ci-verify jobs.

Change-Id: I36986889ecea9a72b238a886146bb5faa10c9672
Signed-off-by: Zack Williams <zdw@opennetworking.org>

Simplify conditional statement for ALT_NEXUS_REPO

Change-Id: I72cecef2c52e1c1e2688437a18dfa02bc1b4c3e6
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

REM security notice about PostBuildScript plugin

This notice is no longer true and we support using the latest
2.x version of PostBuildScript.

Change-Id: I0cf9559f6bf86570465ab45d49943fb07b2afbe9
Signed-off-by: Thanh Ha <thanh.ha@linuxfoundation.org>

Fix echo when removing venv in jjb-cleanup.sh

Missing 'echo' call causes this script to fail when it in truth
succeeds.

Change-Id: I95d798a34442fcf3ca172b3bdd43260db8a09f3c
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Use a temporary directory for jjb-installs

When jjb-verify and jjb-merge jobs get scheduled on the same static
node only one can run at a time. So when jjb-merge is running any
jjb-verify jobs triggered during that time fail.

Change-Id: I2ba93417614977741999151cd155a4a165b0229a
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Support the .yml YAML File Suffix for CI Jobs

Change-Id: I410ba824c0d1d1fbeb763fe994a9a4a667b157e3
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Merge "Add docker clean macro"

Remove Unused Jenkins-Admin Groovy Scripts

These scripts:

 - del_computer.groovy
 - get_all_creds.groovy
 - slay_computer.groovy

Were added a few months back but aren't used by any jobs.

Change-Id: I53ed4f1a0451c7a96301352be63a451a03bd803c
Signed-off-by: Trevor Bramwell <tbramwell@linuxfoundation.org>

Prevent unbound variable error on create-netrc.sh

Change-Id: I15498ccf8a16fb93d307408f515751ea98c0003b
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>

Add lf-infra-parameters XC CLM

Add lf-infra-parameters for branch and project
details. XC CLM job needs one extra parameter
(nexus-iq-cli-version) apart from the default
ones in lf_python_common.

Change-Id: I75b3f62c5469498d539db9e2c55ffc6d974e88dc
Signed-off-by: Jessica Wagantall <jwagantall@linuxfoundation.org>

Add docker clean macro

This macro forcibly removes all docker images on build system.

Change-Id: I750e235b7de13338d816d2f963f0628b74ef0579
Signed-off-by: Jeremy Phelps <jphelps@linuxfoundation.org>